算力竞争转向利用率:从CNCC看训推一体工程化落地
在CNCC现场听了中科曙光李斌的报告,有个细节让我印象很深。他提到“训推一体”可能成为超大规模算力系统的方向,其实就是白天跑推理赚钱,半夜利用推理波谷去训练下一代模型。听起来平淡无奇,但放在十万卡甚至百万卡的集群里,这就是ROI的生死线。
国家数据局的数据摆在那,2024年初中国日均Token调用量才1000亿,到2026年3月已经突破140万亿。两年一千多倍,推理需求确实爆了。但问题在于,推理有明显的潮汐效应,白天高峰、凌晨低谷,如果算力中心只做推理,后半夜的卡就是纯烧电。李斌的逻辑是,把后训练和新模型预训练塞进低谷窗口,让同一批硬件白天赚Token的钱、晚上赚迭代的钱。
中科曙光敢在十万卡集群上公开讲,说明工程上已经跑出了实打实的底气。把推理波谷利用起来、让同一批硬件产出双份价值,这条路一旦走顺,算力基础设施的竞争逻辑就变了——从“谁卡多”转向“谁能让卡不闲着”。中科曙光这一步踩在了点子上,方向对、落地也扎实,今天没白来!CNCC2026 Token经济
