众力资讯网

AI算力最怕的,可能不是芯片贵 中科曙光的scaleFabric高速网络,放在今

AI算力最怕的,可能不是芯片贵
中科曙光的scaleFabric高速网络,放在今天的AI基础设施里看,价值并不只是“网络速度更快”。曙光真正解决的是一个很现实的问题:已经花大价钱部署的计算资源,怎么尽量别在那里等数据。
大型AI集群不是把几千张计算卡简单插在一起就结束了。
模型训练过程中,大量节点需要持续进行参数和数据交换。网络一旦拥塞或者延迟上升,计算设备就可能暂停等待。机器虽然开着、电也照样消耗,但真正有效计算并没有发生。
所以随着芯片越来越昂贵,提高利用率本身就是降低AI成本。
这也是高速互联越来越受重视的原因。scaleFabric面向AI、高性能计算和存储等场景,本质上就是希望把计算节点之间的数据“高速公路”修得更宽、更顺。
过去谈算力,市场喜欢问“有多少卡”。
以后可能要多问一句:这些昂贵的卡,一天到底有多少时间真正处于有效工作状态?
从这个意义上看,网络已经不是配套,而正在成为计算效率的一部分。
中科曙光 scaleFabric 高速互联 AI算力 人工智能