2048个CPU核心,能够放进多大的服务器机箱?
按照传统服务器的配置思路,如此庞大的核心数量通常意味着需要部署多台独立服务器,再通过网络构建计算集群。但在新一代高密度服务器平台中,这些计算资源已经可以集中到仅有2U高度的机箱内。
2026年11月18日,技嘉旗下服务器厂商Giga Computing公布了在美国芝加哥SC26超级计算大会期间展示的新一代计算平台。其中,全新推出的H295-D80-CS1高密度服务器采用2U四节点设计,每个节点支持两颗AMD EPYC 9006系列处理器,整机最多集成2048个物理CPU核心。
这意味着,原本需要更多机架空间承载的CPU计算资源,可以被压缩到更小的物理体积中。
不过,这款产品真正值得关注的并不只是核心数量。Giga Computing为其配备了封闭式液冷系统,并强调无需连接机房集中供水管路,也能够在传统数据中心环境中部署。
当CPU核心密度持续提高,服务器设计正在遇到一个越来越现实的问题:计算资源可以不断压缩到更小空间,但功耗和热量并不会因为机箱变小而同步消失。
对于IDC机房、服务器租赁商以及计划建设高性能计算集群的企业而言,液冷正在从部分高端服务器的可选配置,逐渐成为支撑高密度计算的重要技术条件。
首先需要澄清,H295-D80-CS1所谓的2048个CPU核心,并不是来自单颗处理器,也不是单块主板上的单一处理器系统。
按照Giga Computing公布的规格,这款服务器采用2U四节点架构,每个计算节点安装两颗AMD EPYC 9006系列处理器。
AMD第六代EPYC 9006系列采用Zen 6与Zen 6c架构,其中高密度型号单颗处理器最高提供256个物理核心、512个线程。
因此,整机核心数量的计算方式为:
硬件层级 | 处理器与核心配置 |
|---|---|
单颗CPU | 最高256核心、512线程 |
单个计算节点 | 2颗CPU,最高512核心、1024线程 |
2U整机 | 4个计算节点,共8颗CPU |
整机最大规模 | 2048核心、4096线程 |
这里的2048指物理CPU核心数量,不是逻辑线程数,也不能理解为系统运行着2048颗处理器。
同样需要注意,四节点服务器并不等于一个拥有2048核心的统一操作系统实例。每个节点拥有独立的计算资源,通常通过网络和集群软件完成跨节点协作。
如果某项应用只能运行在单个计算节点内部,就不能直接把整机2048个核心全部视为该应用可使用的单机资源。
这也是高密度服务器与传统大型多路服务器之间的重要区别。
H295-D80-CS1的目标,是在有限机柜空间内提供更多独立计算节点,适合通过横向扩展提高总体计算吞吐量的业务。
除了CPU数量,技嘉还公布了这款服务器的其他硬件规格,包括每颗CPU支持16通道DDR5 RDIMM或MRDIMM内存、每节点最多32个DIMM插槽,以及整机提供8个E1.S规格的PCIe 6.0 NVMe热插拔硬盘位。
网络和扩展部分也支持PCIe 6.0,并配置OCP NIC 3.0扩展接口。
从这些设计可以看出,厂商并不是单纯增加处理器数量,而是同时考虑了高密度CPU平台所需的内存带宽、数据传输和存储扩展能力。
A5数据分析,这类服务器的真正价值不是让单个程序突然获得数千核心,而是让数据中心能够在相同机架空间内运行更多计算任务。
高密度服务器一直存在一个容易被忽视的问题:服务器所占空间越小,并不代表实际运行成本越低。
AMD EPYC 9006系列的最高核心配置,可以达到单颗256核心。根据AMD公布的产品规格,不同型号的处理器功率配置存在差异,部分256核心型号的默认CPU功率及可配置范围可达到数百瓦,最高功率级别可达600W。
对于H295-D80-CS1这样的八路处理器整机,如果按照每颗CPU运行功率400W至600W进行理论估算,仅八颗CPU本身就可能产生约3200W至4800W的功耗。
需要说明的是,这只是用于理解散热规模的处理器功耗估算,并不是技嘉公布的H295-D80-CS1整机实测功耗。实际CPU功耗取决于具体型号、BIOS功率策略和运行负载。
而CPU之外,服务器还需要为大量DDR5内存、NVMe SSD、网卡、主板供电系统、风扇和液冷组件提供电力。
这些设备消耗的电能,最终绝大部分都会转化为热量。
因此,高密度服务器面临的核心问题,是如何在有限的2U空间内持续排出数千瓦级别的热量,并保证CPU、内存、供电模块和其他组件始终处于允许的温度范围。
传统风冷服务器依靠散热片和高速风扇,让空气经过发热组件并将热量带走。
这种方式仍然适用于大量通用服务器,但随着单颗CPU功率和整机功率密度提高,空气流量、散热片面积、风扇静压以及机箱内部风道都会受到限制。
尤其是在多节点、高内存密度的服务器内部,CPU散热器可以使用的空间十分有限。
如果简单增加风扇转速,不仅会提高风扇本身的电力消耗,还可能带来更大的噪声和额外运维压力。
当散热能力不足时,处理器可能通过降低运行频率来控制温度,导致实际性能低于预期。
这意味着,即使服务器拥有足够多的CPU核心,也不代表这些核心能够在长时间满负载条件下持续发挥全部性能。
对于高性能计算、科学模拟和批量数据处理等持续负载业务,这种差异尤其重要。
此次H295-D80-CS1采用封闭式直接液冷(Closed-Loop DLC),是整款产品的重要设计特点。
与需要连接机房集中供液系统的液冷服务器不同,封闭式液冷可以将冷却液循环系统集成到服务器内部或配套结构中,通过冷板吸收处理器热量,再利用换热结构将热量排出。
其基本工作过程可以理解为:冷却液经过处理器冷板,吸收CPU产生的热量;升温后的冷却液进入换热部分;完成散热后,再循环回到处理器附近。
对于不具备集中供液管路的传统数据中心,这种结构能够降低引入液冷服务器时的基础设施改造门槛。
但这里有一个需要特别注意的区别。
无需连接机房水冷管路,不等于服务器不需要外部散热环境。
封闭式液冷只是改变了热量从芯片向外传递的方式。冷却液最终仍然需要通过换热设备,将热量释放到机房空气或其他冷却介质中。
如果采用液体与空气换热的方式,那么机房空调、冷热通道和空气循环系统仍然需要承担相应的热负荷。
也就是说,封闭式液冷能够改善处理器局部的热量传递条件,但并不能凭空消除服务器运行产生的热量。
对于IDC机房而言,这一点非常关键。
如果现有机柜已经接近供电和制冷能力上限,即使更换为封闭式液冷服务器,也不能保证可以直接部署更多高功率设备。
必须重新评估机柜供电容量、整机持续功耗、机房制冷能力、进出风温度,以及设备之间的散热影响。
此外,封闭式液冷还需要关注液泵可靠性、冷却液寿命、泄漏检测、设备维修和故障更换流程。
H295-D80-CS1官方产品规格明确支持液冷泄漏检测,但目前公开资料尚不足以判断其具体长期维护成本、液泵寿命及所有机房环境下的实际散热表现。
A5数据认为,封闭式液冷最大的现实意义,是为传统数据中心提供一种相对容易引入的高密度计算方案,而不是让所有旧机房无需改造就能直接承载高功率服务器。
在SC26大会上,技嘉还展示了另一款采用AMD EPYC 9006处理器的高密度平台B685-D80-LS1。
与H295-D80-CS1不同,这款产品采用6U十节点刀片式结构,每个节点支持双路EPYC处理器,整机最高能够集成5120个CPU核心。
由于计算密度更高,B685-D80-LS1采用的是直接液冷方案,并与机架级冷却液分配单元(CDU)、供配电设备及液冷管路配合使用。
技嘉表示,其展示的新型6U液冷机箱通过覆盖CPU、内存和网卡等组件的冷板,可以捕获接近90%的系统热量。
这里的90%是厂商针对6U机架级液冷结构公布的设计数据,不能直接套用到2U封闭式液冷产品上,也不代表整座机房的冷却能耗能够下降90%。
通过这两类产品,可以观察到液冷服务器正在形成不同的部署路线。
对比项目 | H295-D80-CS1 | B685-D80-LS1 |
|---|---|---|
机箱规格 | 2U四节点 | 6U十节点 |
最大CPU核心数 | 2048 | 5120 |
液冷方式 | 封闭式液冷 | 机架级直接液冷 |
机房冷却连接 | 不要求连接集中供水 | 与机架级液冷设施集成 |
主要部署方向 | 高密度计算、传统机房升级 | 大规模HPC及高密度机架集群 |
两种设计并不能仅凭核心数量判断孰优孰劣。
对于已有成熟液冷基础设施的大型数据中心,机架级直接液冷可以更集中地管理高密度计算设备产生的热量。
但对于仍以风冷基础设施为主的传统IDC机房,封闭式液冷可能更容易部署,前提是现有空调及供电系统具备足够余量。
这种差异也说明,服务器散热方案正在从单纯的硬件选项,逐渐变成决定机房部署方式的重要因素。
高密度服务器的另一个变化,是数据中心需要重新理解机柜空间的价值。
传统服务器部署通常先考虑机柜剩余多少U位,再确定还可以安装多少设备。
但对于新一代高功率服务器,机柜可用空间可能不再是主要限制,供电和散热反而会率先达到上限。
以H295-D80-CS1为例,技嘉产品规格列出了四个3200W、80 PLUS Titanium等级的冗余电源模块。
需要注意,冗余电源的额定功率不能简单相加并当作服务器的持续实际功耗,也不能据此直接计算整机最大可用负载。具体供电能力还取决于冗余模式、电源输入条件及厂商的功率配置要求。
但从电源设计本身可以看出,这是一款需要重点考虑供电条件的高密度服务器。
如果仅按照42U机柜的物理高度计算,一个机柜理论上可以容纳21台2U服务器。
然而,实际IDC机柜并不是只要空间足够,就可以无限增加设备数量。
假如服务器的持续功耗较高,机柜可能在安装少量设备之后,就已经接近配电容量或制冷能力上限。
此外,实际部署还需要保留网络设备、供电设备、布线和必要的维护空间。
所以,2048核心能够放进2U,确实是服务器工程设计上的进步,但并不意味着可以简单地用2048乘以21,得到一个普通42U机柜能够实际部署的CPU核心数量。
A5数据分析,高密度服务器真正考验的是整套基础设施,而不只是单机硬件。
未来IDC机房在评估高性能服务器时,需要同时关注单位机柜功率、制冷余量、网络承载能力,以及设备在持续负载下能否保持稳定性能。
单纯提高机柜内的CPU核心数量,如果导致电力或散热系统超负荷,并不能真正提高数据中心的可用计算能力。
如此高的CPU核心密度,并不意味着所有服务器业务都需要升级到类似平台。
其价值主要体现在能够充分利用大量并行计算资源,并且对机柜空间有明确要求的工作负载中。
首先是大规模科学计算和高性能计算(HPC)。
计算流体力学、工程仿真、分子模拟和部分科研计算任务,能够将工作划分为大量并行任务,适合部署在多节点高核心密度平台上。
但这类业务同样需要考虑内存带宽、节点间通信和网络延迟。CPU核心数量增加,并不意味着计算性能一定按照相同比例提高。
其次是云计算与高密度虚拟化。
对于能够有效分配CPU、内存和网络资源的虚拟化平台,高核心数量可以提高单台机箱承载虚拟机或容器工作负载的潜力。
不过,实际可运行多少虚拟机,仍然受到每个虚拟机资源配额、内存容量、存储I/O和CPU超售策略影响。
如果虚拟机主要受到内存或存储性能限制,即使CPU核心数量进一步增加,也未必能够明显提高实际承载能力。
第三是AI计算周边服务。
当前AI基础设施并不只有GPU需要计算资源。
数据预处理、模型推理请求调度、数据库查询、向量检索、AI Agent工具执行和分布式任务管理,都可能消耗大量CPU资源。
特别是在需要同时运行大量独立Agent任务的环境中,高核心密度CPU有机会提高多任务并发能力。
但这不意味着高密度CPU服务器可以在所有场景下替代GPU。对于依赖大规模矩阵运算的模型训练和高吞吐推理,加速卡仍然具有重要作用。
从服务器租赁角度来看,这类平台更适合有明确高并发CPU计算需求的企业客户,而不是直接替代通用E5、Xeon Gold或常规EPYC服务器。
对于计划采购或租用高密度EPYC服务器的企业,2048核心的配置确实具有吸引力,但真正影响采购决策的还是总体拥有成本(TCO)。
以往服务器选型经常比较单颗CPU核心数量、整机价格和机柜空间,而在液冷服务器上,还需要把配电、散热、运维以及长期使用成本纳入考虑。
首先需要判断业务能否充分利用多节点计算资源。
如果应用主要是单线程任务、数据库存在锁竞争,或者计算过程受限于内存带宽,即使增加CPU核心,也未必能够获得理想的性能提升。
其次要评估机房环境。
如果现有IDC机房仍然采用传统风冷,并且每个机柜供电容量有限,那么即使服务器采用封闭式液冷,也需要确认空调余量和电力条件。
再次是设备采购成本。
高核心数EPYC处理器本身价格较高,再加上大量DDR5 RDIMM或MRDIMM、PCIe 6.0扩展组件和液冷系统,整机投入可能明显高于常规服务器。
如果业务资源利用率不足,昂贵的高密度硬件可能无法体现相应的经济价值。
最后还需要考虑维修和故障影响范围。
四节点集中部署可以节省物理空间,但多个节点共用机箱和部分基础设施,也意味着某些机箱级故障或维护操作可能同时影响多个计算节点。
对于对业务连续性要求较高的客户,仍然需要通过集群冗余、任务迁移和跨物理设备部署降低故障风险。
因此,A5数据更倾向于将高密度服务器视为面向特定需求的计算平台,而不是未来所有服务器都必须采用的统一配置。
在采购时,核心数量可以作为重要参考,但最终仍然应该比较单位有效计算性能、功耗、部署条件和长期维护成本。
从H295-D80-CS1的2U四节点设计,到B685-D80-LS1的6U刀片式液冷平台,技嘉在SC26展示的产品反映了服务器硬件正在发生的一种变化。
处理器制造商不断提高单颗CPU的核心数量,服务器厂商则通过多节点设计、内存扩展和高速互联,将这些计算资源集中到更小的机箱中。
但与此同时,服务器的供电能力、散热效率和机房基础设施,也必须跟上硬件密度提升的速度。
液冷之所以越来越受到重视,并不是因为传统风冷已经完全失去价值,而是当单位空间内的发热量达到一定程度时,单纯增加风扇和散热片已经难以兼顾性能、功耗与部署密度。
封闭式液冷让部分传统机房有机会引入更高功率的服务器,机架级直接液冷则为大规模高密度计算提供了另一种解决路径。
不过,2048核心或5120核心仍然只是硬件平台的最高配置能力,并不能代表所有负载下的实际性能,也不能说明这些服务器已经具备大规模部署后的完整成本优势。技嘉目前将H295-D80-CS1列为即将推出的产品,具体交付、长期稳定性和实际能效仍需要后续数据验证。
对于IDC行业来说,这轮高密度计算平台升级带来的一个重要变化,是服务器选型正在从CPU、内存、硬盘和带宽的组合比较,进一步延伸到供电、制冷、机柜功率密度和整套系统的运行效率。
未来真正具有竞争力的数据中心,不一定是单纯拥有最多CPU核心的机房,而是能够在可控的电力和散热条件下,持续稳定地交付更多有效计算资源的机房。