之前总觉得算力就是堆服务器、堆芯片,直到跑了趟运营商的算力枢纽参观才反应过来,没有靠谱的通信网络撑着,再强的算力都是孤岛。
就拿现在的智算集群来说,几千张GPU卡并行训练大模型,卡之间的数据传输延迟要求得压到2微秒以内,要是用普通的商用网线,传一张100G的数据集得卡十几秒,集群直接瘫一半。现在靠全光交叉的算力调度网络,跨3个地市的算力节点调度延迟都能控制在5毫秒以内,相当于把几百公里外的算力池当成自己本地的扩展内存用。
之前做AI绘图的小团队,之前租了本地的2台3090,出一张4K图要8分钟,后来接入运营商的算力底座专线,调用远端的A100集群,出图速度直接压到40秒,成本还降了60%。
说白了通信就是算力的血管,血管通了,算力的养分才能流到每一个需要的角落。 通信是现代社会的高速公路,给社会生活带来便利。
