铜缆方案用于AI集群短距传输,改变了传统GPU集群的内部连接方式。英伟达GB20

锴锐聊商业 2025-01-20 14:38:18

铜缆方案用于AI集群短距传输,改变了传统GPU集群的内部连接方式。

英伟达GB200以及配套机柜NVL72/NVL36率先把“铜互联”正式引入到服务器柜内短距离传输环节。

新一代服务器GB300进一步优化铜缆连接方案,GB300服务器内部采用了铜缆+背板的连接方式,由于switch芯片上下并列的原因,有一半的线缆预计增加30+厘米,整体增幅50%+左右。这意味着铜缆在GB300中的使用将更加广泛,以满足更高性能的数据传输需求。

除英伟达之外,海外多家公司已实现高速铜短距互联成熟解决方案,谷歌和dojo均已使用定制铜缆或DCA/AEC方案作为短距互联的首选;亚马逊部署包含40万个Trainium2芯片的集群采用铜缆连接方案;国内华为Atlas智能计算平台采用线缆背板。

什么是铜缆高速连接?

铜缆高速连接主要用于数据中心内部服务器与交换机之间、存储器与交换机之间以及交换机与交换机之间的短距离互联传输场景。

随着AI单节点计算规模扩张,单机柜内服务器数量增加激发铜缆连接需求。

采用铜缆连接方案有助于提升数据传输速度和可靠性,还在散热效率、信号传输及成本方面有显著优势。

铜缆的引入实现了芯片性能高达30倍的提升,将使用功耗降低至传统材料的二十五分之一。

和光连接相比,铜连接芯片复杂度低,在成本功耗和稳定性上更有优势。

0 阅读:26
锴锐聊商业

锴锐聊商业

感谢大家的关注