众力资讯网

AI为什么需要走向晶圆级 AI系统运行时,权重与激活值需在计算与存储间反复传输

AI为什么需要走向晶圆级 AI系统运行时,权重与激活值需在计算与存储间反复传输,多芯片间的数据交换同步导致通信功耗和成本攀升,集群越大新增GPU越难转化为等比例有效算力。晶圆级芯片通过缩短物理距离减少数据搬运,成为AI算力的现实选择。核心瓶颈:数据搬运成本数据传输损耗 :模型运行时,数据在计算单元与存储间频繁往返,多芯片需持续交换同步数据。通信链路冗长 :数据离开芯片需经过封装I/O、PCB、网卡等环节,集群规模扩大时通信成本显著增加。算力转化低效 :新增GPU难以转化为等比例的有效算力,系统整体效率受限于数据搬运。晶圆级的解决方案缩短物理距离 :将板间、机柜间的数据交换压缩至封装内甚至晶圆内,用毫米级互连替代长距离网络。核心价值 :减少数据搬运损耗,而非单纯增加计算单元数量。与超节点对比 :超节点生态成熟但网络成本高;晶圆级以定制化设计换取更高带宽、低延迟和能效。异构互补角色 :未必取代GPU,可作为异构数据中心的一层,接管通信密集、延迟敏感的工作负载。