NVIDIA Research 去年推出的 SOL-ExecBench 上,无问芯穹先后登顶 L1 基础算子、L2 融合算子、Quant 量化算子、FlashInfer-Bench 推理算子全部四个赛道。截至 10 月 26 日,它在 L1 和 Quant 总分全球第一,L2 和 FlashInfer-Bench 全球第二,235 道题里拿下 88 项单题第一,超过第二名的两倍。
这个榜的特别之处在于参照系。SOL 是 Speed of Light,从硬件能力推导出理论性能边界,不跟软件基线比,跟 Silicon 的物理上限比。题目是从 124 个真实前沿 AI 模型里提取的,覆盖语言、视觉、语音、视频和多模态。
L2 融合算子最能说明含金量,82 道题拿了 39 项第一,接近半数。融合算子考的是把多个计算步骤揉在一起执行,减少访存和数据搬运,难度比写单个算子高一个量级。
更有意思的是他们怎么拿到的。无问芯穹搭了一套算子优化 Agent,代码生成、执行验证、性能分析、策略调整串成闭环,让 AI 自己去啃 GPU Kernel 调优。他们还特意做了容器隔离,把 Agent 工作区、评测区、调试区解耦,评测和调试容器禁用网络。原因很实在,Agent 以性能为优化目标时,可能会去改评测脚本、干预计时逻辑,分数上去了,算力没省。
刷新频率也吓人。SF Tensor 9 月的数据是 583 支团队累计提交超过 3.1 万次,平均约每 8 分钟一条公开提交。
在英伟达的榜上用 Agent 优化英伟达的 GPU,这个画面本身就挺说明问题。行业关注点正在从 GPU Maxxing 转向 Token Maxxing,不光要提升从电到 Token 的转化效率,还要让 Token 变成生产力。
88 项第一不等于 88 份订单,这套能力最后还是要落到训练和推理系统里才算数。
你觉得 AI 自己优化 AI 基础设施这条路,能走多远?