众力资讯网

小米疯狂砸钱,直播 MiMo-V2.6-Pro 模型训练,附直播地址!

小米把 MiMo-V2.6-Pro 和 MiMo-V2.6-Flash 的强化学习训练面板公开后,围观者最先盯上的,是一边跳动的费用。9 月 20 日流传的一帧截图里,两条训练线合计已花 324.10 万美元:Pro 238.70 万,Flash 85.40 万。那时 Pro 还在第 29 步,Flash 已经停了超过一天。

面板后来又更新了。按 9 月 21 日 10:44(北京时间)官方页面记录,Pro 在当天 02:01 停止,完成第 30 步;Flash 于 9 月 19 日 10:22 停止,同样完成第 30 步。两条线显示的最终成本合计约 347.47 万美元,其中 Pro 262.07 万、Flash 85.40 万。这里的“成本”是面板按运行费率展示的训练计算成本,不能直接当作小米对外支付的云服务账单。
从 324 万到 347 万,Pro 又跑完一步这两条 run 从 9 月 15 日启动,官方页面从训练器日志读取进度、token、样本、动态采样指标和故障公告。Pro 的计费速率为每秒 5.71 美元,约每小时 2.06 万美元;Flash 为每秒 2.855 美元,约每小时 1.03 万美元。此前两条线同时运行时,费用合计约每小时 3.08 万美元。Flash 停下后,只剩 Pro 继续增长。
Pro 结束时累计训练了约 752,640 条样本,面板的累计 token 约 750 亿;Flash 对应约 752,640 条样本和 814 亿 token。第 30 步的单步 token,Pro 约 34.31 亿,Flash 约 36.96 亿。这些数字比团队最初介绍的“每步约 20 亿 token”更高,反映的是运行过程中各步实际长度会变。它们并非整个模型从预训练开始的总 token,也不能据此反推模型训练的全部成本。
1568 个题目,每题采样 16 条轨迹这次直播展示的是后训练阶段的强化学习。每步取 1568 个 prompt,每个 prompt 采样 16 条 rollout,合计 25,088 条候选轨迹。轨迹可能包含多轮推理、工具调用以及与环境交互。模型生成之后,还要由测试用例或评分量规给出反馈,再用于更新参数。页面把这一过程称为完全异步的多任务智能体 RL。

面板列出代码、通用、视觉、聊天和网络安全等数据类别,还能看到 23 个 harness 标识。harness 可以理解为让模型完成任务的运行框架:同一道任务交给不同工具环境,生成的行动和可验证结果可能完全不同。小米把多套任务环境混在同一条训练线中,而不是每类任务分别训练一遍。最终每类任务的准确配比会随步骤变化,单凭某一帧截图不能当成整场训练固定比例。
DeepSWE:Pro 公布到第 26 步,Flash 到第 30 步官方面板单列了 DeepSWE v1.1,注明使用 mini-swe-agent、avg@3。这是离线代码评测,与状态卡上的 dynsam/avg@n 训练指标不是同一项。Pro 在第 1 步的 DeepSWE 为 58.41,第 22 步达到 70.92,第 26 步公布的最新成绩为 72.57。页面目前没有给出 Pro 第 27 至 30 步的 DeepSWE 结果,所以不能把 72.57 写成“最终第 30 步成绩”。
Flash 从第 1 步的 48.67 升到第 30 步的 65.68,途中第 28 步曾达到 67.86。不同步骤的分数有起伏,训练更久不等于每次离线评测都线性上涨。另两项官方展示的测试也值得留意:第 30 步 Flash 的 In-house Coding Bench 为 62.87,AutomationBench v1.0.6 为 52.7;Pro 最近公开到第 26 步,分别为 64.39 和 51.3。它们是不同测试集,不能把数值横加成一个总榜。
直播连事故也照单公开官方公告里有几次很具体的中断。Pro 曾因单节点显存问题重启;随后又遇到训练集群与评分服务之间断网。团队在检查 rollout 日志后,从后续 Pro 运行中移除了 cyber 数据,因为其中出现了不良模式。到第 17 步附近,Pro 又因专家负载不均引发 GPU OOM,团队调整了训练并行策略。
Flash 也曾从第 15 步重跑。公告说,某类数据集的基础设施错误大约 3 小时内没有被正确检测到。面板上因此能看到部分步骤的重跑记录。它公开的是发生了什么和采取了哪些动作,没有交代每次故障对最终能力的独立影响。
两条线都停在第 30 步,最终模型仍待发布Flash 停了一天多时,外界曾讨论它是否还有扩展空间;现在 Pro 也停止了。页面仅显示 run stopped,没有说明停训原因,也没有宣布第 30 步是能力上限。Pro 最新离线成绩仍停在第 26 步,后续若补发第 30 步评测,才有条件判断最后四步的代码能力变化。
小米目前仍把 MiMo-V2.6 系列标为“即将推出”,尚未在这块训练面板给出正式模型下载、API 入口、发布日期或价格。罗福莉此前表示,会在随后几周逐步开源技术细节。现阶段最有价值的,是把这场直播当作一份罕见的训练过程记录:25,088 条轨迹如何组成一个 step,成绩怎样波动,故障如何被发现和处理,以及最终约 347.47 万美元的面板计算成本对应了两条怎样的强化学习运行。
直播地址:mimo-v2.6 RL