众力资讯网

#华为汪涛发布业界首个NPO超节点#文明加速了,80后小时候在农村的生活,和汉唐时代差距并不大,工业革命后一年的变化超过过去几百年。现在随着机器人和AI崛起,也发生更快的变化。 AI变革的速度超过历史上任何一次技术革命。今天大模型参数已经快速迈向10万亿,到2030年将达到100万亿以上;中国每日推 ​

华为汪涛发布业界首个NPO超节点文明加速了,80后小时候在农村的生活,和汉唐时代差距并不大,工业革命后一年的变化超过过去几百年。现在随着机器人和AI崛起,也发生更快的变化。AI变革的速度超过历史上任何一次技术革命。今天大模型参数已经快速迈向10万亿,到2030年将达到100万亿以上;中国每日推理Token已增长到每日500万亿左右,到2030年将达到百万万亿级。超节点已成为建设超大规模AI基础设施的必然选择。当前,10万卡集群已成为训练十万亿级SOTA模型的标配,但传统服务器架构导致集群内通信超过训练时间的40%,严重制约了MFU(模型浮点算力利用率)。根据华为马尔科夫实验室仿真结果显示,4K超节点组成的10万卡集群相比由8卡服务器组成的10万卡集群MFU提升了2.75倍。