众力资讯网

华为副总裁王雷称,国内Token实际流通效率仅60%,有四成损耗来自丢包、时延与

华为副总裁王雷称,国内Token实际流通效率仅60%,有四成损耗来自丢包、时延与数据消耗。其实,大模型领域的算力浪费,除了物理网络的丢包抖动,上层调度拉胯,框架冗余带来的无效消耗,要更严重。