众力资讯网

Qwen想一万字才敢开口,它两百字就答了——准确率还更高

大家好,我是杰克王,AI 算法 6 年老兵。
Qwen 3.8 27B 有一个被社区吐槽了很久的问题:想太多。
你问它一个简单问题,它先在脑子里转 10000-40000 个 token 的"思维链",分析来分析去,最后才给你一个答案。等它想完,别人已经干完活了。
Simon Willison 在他的博客里说得很直白:「Qwen 3.8 27B is excellent, but it defaults to wildly overthinking.」
原厂没修。但一个叫 DavidAU 的独立开发者修好了。
他的方法不是"关掉思维链"——那谁都会。他的方法是:让模型想得更快、更准、更少,但输出质量不降反升。
这就是 Qwen 3.8 27B TWIN TURBO Fable Fusion。thinking tokens 减少了二分之一到二十分之一,ARC-C 基准反而从 591 拉到了 709——比原版高了 118 分。
它是怎么做到的
第一层:COLD FUSION 训练法
传统微调的问题是什么?一套学习率、一套策略跑到底。模型学到后面,有些样本已经学会了,有些还没学会,但训练策略不会区分——结果就是"过煮"(overcooking),模型在某些维度上反而退化。
DavidAU 团队发明了一个叫 GAIN 的方法来解决这个问题。核心思路:训练过程中按样本动态调整。模型每学一步,训练策略跟着变一步——已经学会的样本少花时间,没学会的多花时间。
GAIN 叠加 Unsloth 的高效训练框架,就是 COLD FUSION。
效果有多明显?4bit 量化(只有全精度的四分之一)的性能达到了 8bit 的 99%。也就是说,你用四分之一的显存,跑出了几乎一样的智力。
第二层:Fable Fusion 多阶段合并
COLD FUSION 解决的是"怎么训"的问题,Fable Fusion 解决的是"训什么"的问题。
不是一次微调就完事。分多个阶段,每个阶段针对不同的能力维度——推理、指令遵循、创作、代码。每个阶段单独微调,然后把多个微调后的模型合并成一个。
这个方法的灵感来自前作 FF711(Fable Fusion 711),就是那个 2300 赞、400 万下载的"神级杰作"。FF711 混入了 Fable 叙事、Claude Opus 推理、GPT-5 Polaris 等多种训练痕迹。TWIN TURBO 在此基础上又加了一层 Cold Fusion GAIN V1.1 的"DNA"。
可以这么理解:COLD FUSION 是训练引擎,Fable Fusion 是配方。 引擎决定效率,配方决定口味。
第三层:思维链压缩
这是 TWIN TURBO 最核心的改动,也是名字的由来。
原版 Qwen 3.8 27B 的思维链有多膨胀?官方文档建议你给 reasoning content 分配最多 262144 个 token——二十六万。对于复杂任务,模型光是"想"就能花掉几万个 token。
TWIN TURBO 做了两件事:
压缩思维链的长度。 thinking tokens 减少二分之一到二十分之一,中位数大约砍掉三分之二。原版还在想"格式化"的时候,TWIN TURBO 已经在输出了。
保持输出的细节不降。 这是最难的部分。思维链压缩通常意味着推理深度下降,但 TWIN TURBO 把原本"想"的内容直接转移到了输出里——想的少了,但说的多了。用作者的话说:「instead of a lot of detail in the thinking block, it has been transferred to the output.」
第四层:10 种模式
TWIN TURBO 不只修了一个问题,还把 Qwen 3.8 的推理模式从 3 种扩到了 10 种:
5 种推理模式(thinking):xhigh / medium / low / spoon(超详细研究模式)/ einstein(最多生成 20 个虚拟 Agent 协同解题)
5 种指令模式(instruct,零推理 token):ixhigh / imedium / ilow / ispoon / ieinstein最狠的是:可以在聊天中直接切换。输入 {REASON:einstein} 就切到 Einstein 模式,输入 {REASON:ispoon} 就切到指令模式下的 Spoon。不用重启,不用换模型,不用改配置。
七项基准全碾压
口说无凭,上数据。以下是 Nightmedia 跑的社区基准(mxfp8 量化,instruct 模式):
七项全胜。不光赢了原版 3.8,还赢了上一代 3.6 和 35B 的 3.6-35B-A3B(0.581)。
4bit 量化下 ARC-C 也有 701——只有全精度四分之一的大小,仍然站在 700 以上。
值得注意的是 KL 散度只有 0.0025。KL 散度衡量的是微调后模型和原版的"距离"——越低说明微调越精准,没有损伤模型的底层能力。0.0025 是一个非常低的数字。
但要泼几盆冷水
第一,ARC-C 偏老。 709 分确实厉害,但 ARC-C 主要测推理和常识,代码、中文、长上下文没有对应数据。一个 ARC-C 高分不代表全能。
第二,社区自测。 所有数据来自作者团队(Nightmedia 负责 benching),没有第三方独立复测。作者自己也强调:最终验收靠的是人工对照测试——新旧模型并排比输出。
第三,思维链压缩是双刃剑。 不需要深度推理的任务确实加速了。但真正复杂的问题呢?想得少不一定是好事。作者的解决方案是:写更详细的 prompt 来"逼"模型多想——比如你只说"画一个 SVG",它可能画得很快但粗糙;你说"画一个高度详细的 SVG,检查所有元素的位置",它就会花更多时间思考。但这个"度"需要你自己把握。
第四,去审查的争议。 模型用 Heretic 方法做了 lightly uncensored 处理(68/100 refusals,原版 99/100)。对开发者来说这是灵活性,但滥用风险是真实存在的。
怎么用
如果你手里有一张 24G 或 32G 的显卡,想试试这个模型:
下载:Hugging Face 搜 DavidAU/Qwen3.8-27B-TWIN-TURBO,GGUF 格式,Q4_K_S 起步
部署:LMStudio 拉下来直接跑。如果要 MTP 加速版,选文件名带 MTP 的参数照抄:温度 1.0 / top_p 0.95 / top_k 20(thinking 模式);温度 0.7 / top_p 0.80 / presence_penalty 1.5(instruct 模式)
聊天中切模式:输入 {REASON:einstein} 或 {REASON:ispoon} 即可如果想要更顺滑的输出:在 KoboldCpp / text-generation-webui / SillyTavern 里把 Smoothing Factor 设成 1.5适合谁:手里有 24G/32G 显存想榨出最强 27B 智力的玩家 / 需要快速响应的 Agent 场景 / 想研究社区微调方法论的炼丹爱好者。
不适合谁:需要代码和中文场景有确定性数据支撑的用户(目前没有这两项的第三方验证)。
最后说一句
这个模型最让我印象深刻的不是 709 分,是 DavidAU 在模型页面上写的一句话:
「It took a lot of tests on Qwen 3.5 9Bs to get the methods right. It boosted the 9Bs to new levels, and then the method was used on Qwen 3.5 27B and Qwen 3.6 27B which boosted it PAST the Qwen 3.8's 27B benchmarks.」
他们先在 9B 的小模型上反复试验,把方法论打磨成熟,然后才用到 27B 上。9B 试验品的七项基准就已经干掉了 Qwen 3.5 27B。
这不是运气,是工程。当"炼丹"变成了可复制的工程流程,开源模型和闭源旗舰之间的距离,就只剩一张显卡的距离了。
参考来源:
DavidAU HuggingFace 模型页(含完整基准和使用说明)
DavidAU HuggingFace 帖子(TWIN TURBO 发布公告)Simon Willison:Qwen 3.8 27B is excellent, but it defaults to wildly overthinking
Reddit r/LocalLLaMA:DavidAU somehow managed to improve Qwen 3.6 27B觉得有收获,点个在看支持一下
感谢阅读。