CNCC划重点：智算效率才是Token时代的胜负手
本次CNCC 2026大会现场，中科曙光李博的演讲，除了硬件架构分享，推理软件优化内容，反而让我有另一层启发。很多团队搭建完智算集群之后，经常遇到硬件配置很强，但Token输出上不去的窘境。究其根源，算力空转、通信等待、访存搬运、调度排队这四大问题，会严重吃掉集群实际性能。
演讲中重点聊到两套面向业务落地的调优思路。一套全栈推理优化，穿透应用、框架、算子、系统、芯片多层做软硬协同，直击阻碍Token产出的几大瓶颈。另一套PD分离架构，把预填充和解码阶段资源解耦分开调度，实测中预填充性能提升237.5%，解码性能提升228.57%。
搭配ParaCache构建外置L4级KV Cache池，TTFT大幅降低，64K长上下文的并发能力直接提升16倍。这也印证一个现实：智算建设不止要搞定底层算存网硬件，上层推理调度、资源解耦的软件能力，也是释放集群价值的关键，软硬件双向打磨，才能真正接住爆发式增长的Token调用需求。
中科曙光CNCC 2026