超节点能否打破单芯片的物理天花板?
单颗芯片的性能快到天花板了,算力规模继续做大,只能靠一件事,那就是把更多芯片用更快的方式连起来。这就是“超节点”在做的事情。
传统做法就是堆卡,而且越多越好。但这条路越走越窄。GPT-5级别的大模型训练,跨节点通信开销占了总训练时间的三成以上。也就是说,买100张卡的钱,有30张卡的时间在干等数据。GPU算力每年提升2到3倍,但内存带宽一年只涨15%到30%,两者之间的差距越来越大。
超节点解决的就是这个问题,通过高速互联技术,把几十甚至上百颗GPU变成一个统一的“计算矩阵”,让原来需要跨机柜传输的数据变成内部通信,大幅减少等待时间。
华为在WAIC 2026全球真机首展Atlas 950 SuperPoD,这是目前行业规模最 大的商用超节点。单柜64卡起步,最多可以连8192张NPU卡,专门为万亿参数的大模型训练和推理设计。华为还提出了一个叫“韬定律”的新思路,与其死磕晶体管尺寸,不如压缩信号传输的时间延迟,用架构创新在成熟制程上跑出高性能。
超节点解决的是“怎么连”的问题,光技术解决的是“用什么连”的问题,后者更接近物理底层。
摩尔定律放缓这件事,行业已经不再争论了。晶体管越做越小,成本越来越高,收益越来越低。电信号天生有发热和带宽上限,内存墙和互连墙这两堵墙,靠电子技术很难翻过去。光不一样。光子的传输速度比电子快得多,而且不发热、不耗电,天然适合做大范围高速数据传输。
光互连给算力集群修的是“数据高铁”,光计算则直接用光子做运算,绕过电子电路的物理极限。这两项技术加在一起,被行业视为后摩尔时代最有希望的路。