AI 服务器是专门为人工智能任务设计的服务器，具有以下特点：

强大的计算能力：

AI 服务器通常配备多个高性能的中央处理器（CPU），如英特尔至强可扩展处理器，以处理复杂的任务调度和数据预处理。同时，它还会搭载大量图形处理器（GPU），如 NVIDIA 的 A100、H100 等，这些 GPU 具有强大的并行计算能力，能够快速处理 AI 训练和推理中的大量数据，大幅缩短训练时间。

高内存带宽和大容量存储：

AI 任务，尤其是深度学习训练，需要处理海量的数据，这就要求 AI 服务器具备高内存带宽和大容量存储。服务器通常配置大容量的高速内存，如 DDR5 内存，以满足数据快速读写的需求。同时，配备高速的存储设备，如 NVMe 固态硬盘，可提供高达数 GB 每秒的读写速度，确保数据能够快速传输到计算单元，提高训练和推理效率。

专业的 AI 加速芯片：

除了 CPU 和 GPU，一些 AI 服务器还会集成专用的 AI 加速芯片，如张量处理单元（TPU）、现场可编程门阵列（FPGA）等。TPU 针对张量运算进行了优化，能高效处理深度学习中的矩阵乘法等操作；FPGA 具有可编程的特性，用户可以根据自己的 AI 算法需求定制硬件逻辑，实现灵活高效的 AI 加速。

高速网络互联：

AI 训练往往需要处理大量的数据，并且可能涉及多台服务器之间的协同工作，因此 AI 服务器需要具备高速的网络互联能力。通常配备 10Gbps、25Gbps 甚至更高带宽的以太网接口，或者采用 InfiniBand 高速网络技术，以实现服务器之间的数据快速传输，减少数据通信延迟，提高分布式 AI 训练的效率。

高效的散热系统：

由于 AI 服务器中集成了大量高性能的计算芯片，这些芯片在工作时会产生大量的热量，因此需要高效的散热系统来保证服务器的稳定运行。常见的散热方式包括风冷和液冷，风冷系统通常采用大尺寸的散热风扇和高效的散热片，以增强空气流动带走热量；液冷系统则通过循环冷却液来吸收芯片产生的热量，散热效果更好，能有效降低服务器的运行温度，提高系统的可靠性和稳定性。

支持 AI 框架和软件：

AI 服务器通常预装了多种主流的人工智能框架，如 TensorFlow、PyTorch、Keras 等，以方便开发人员进行 AI 模型的开发和训练。同时，还会提供一系列的工具和软件，用于模型的管理、监控和优化，帮助用户更高效地进行 AI 项目的开发和部署。

产品型号：TR-ADC01

基于英特尔®至强®可拓展系列处理器开发的一款推理计算服务器；2U空间内支持至4片NVIDIA GPU推理卡（被动散热式）,可支持两颗一代、二代处理器、3TB DDR4 ECC RDIMM内存，支持机架式、桌面式互换安装，采用独立风道设计，保障散热效果，降低系统噪音；适用于包含DeepSeek在内的深度学习训练、推理，视频分析，大数据，虚拟计算等超高算力应用需求。

领先架构

2U空间内可支持4张 PCIe 形态外插卡，支持 NVIDIA Tesla专业卡； 支持NVIDIA NVLINK互连技术，能够提高显存和性能扩展； 支持全新100Gb网络卡，提高数据传输效率。

优异性能

两颗英特尔® 第一代、第二代 至强® 可扩展处理器； 24个DDR4 ECC RDIMM内存插槽，最高支持3TB内存； 主板原生2个M.2接口，可实现超高算力。

灵活配置

支持8片前置3.5/2.5″+ 4片后置3.5/2.5″硬盘，支持RAID数据保护； 支持1+1 冗余CRPS电源或塔式电源，有效降低成本投入； 灵活适配各品牌新一代AI加速卡和智能网卡。

开箱即用

预装ubuntu 操作系统、深度学习SDK； 深度学习框架包括 TensorFlow、PyTorch等； 并以容器形式交付，缩短耗费数天的软件部署周期、现实开箱即用，提升工作效率。