众力资讯网

不用订阅Claude!17GB模型本地跑AI编程,零成本

Simon Willison 实测 Qwen 3.8 27B:本地跑 AI 编程,最好的时代到了?27B 参数,17GB 文件,在 MacBook 上跑编码 agent——但那个默认设置是个笑话
Simon Willison 刚刚测试了 Qwen 3.8 27B,并写了一篇非常详细的上手报告。
结论先放在前面:这是个很不错的模型,能在本地跑,能驱动编码 agent,生成质量很高——但它的默认推理设置是个笑话,你需要手动关掉它。
什么是 Qwen 3.8 27B?这是阿里巴巴 Qwen 实验室发布的模型:
27B 参数(Apache 2 开源许可证)支持视觉(vision-capable)Apache 2 许可证(随便用,包括商用)17GB 大小(Q4_K_M 量化版本)27B 是一个很妙的尺寸——Simon 形容它是"在配置不错的笔记本电脑上跑模型的绝佳选择"。
benchmark 表现也很亮眼:据 Qwen 官方报告,3.8 27B 比上一代 3.6 27B 和更早的闭源 3.7-Plus 都有显著提升——而 3.7-Plus 曾经是今年五月同尺寸最强的模型之一。
那个默认设置是个灾难Qwen 为 3.8 新增了一个 `reasoning_effort` 参数,用来控制推理深度,有三个档位:
xhigh(默认):复杂任务,深入分析medium:平衡准确率和速度low:优化速度和成本Simon 的评价:这是一个很可笑的默认设置。
他的测试是这样的:
测试一:画一只鹈鹕骑自行车的 SVG
用默认的 xhigh 模式,模型用了 22,276 个推理 token 来"思考",最终输出 3,223 个 token 的内容,总耗时 21 分钟。
效果确实很漂亮——鹈鹕的喙位置正确,翅膀碰到了车把手,腿分别放在车两侧(这是非常罕见的),背景有太阳、云、小山和草地。
Simon 的评价:"值得等 21 分钟吗?绝对不值得。"
关闭推理模式后,同样的 prompt,只用了 137 秒(2 分多钟),生成的内容差一点,但质量也相当不错。
测试二:画一个圆
Simon 尝试了一个更简单的 prompt:`draw an svg of a circle`(画一个圆的 SVG)。
xhigh 模式下,Qwen 的推理过程是这样的(翻译版):
> "用户要一个圆的 SVG。简单的请求——但我想把它做成一件精心设计的作品。让我超越单纯的 ``,做一个有风格的几何'圆研究'……也许加上同心圆、刻度线、渐变填充、限制动画……"
> "调色板方案:深海青墨水配暖纸白?还是赤红圆配米白底加海军蓝辅助线——包豪斯/圆规制图风格?"
几分钟后,它生成了一个超漂亮的动画圆——但这不是用户要的。
Simon 的强烈建议:
> "忽略那个默认设置。先用 low 或者直接关闭 reasoning。模型很好,但那个默认设置是个糟糕的起点。"
真正的亮点:驱动编码 Agent本地跑 AI 编程 agent,是 27B 模型最关键的用途。
Simon 测试了一个叫 Pi 的编码 agent(选它是因为 system prompt 比大多数竞品短,更适合小模型),配置 Qwen 3.8 27B 通过 LM Studio + Tailscale 网络共享来驱动。
测试场景:
Prompt: `how does auth work?`(认证是怎么工作的?)
Qwen 27B 在一堆文件之间跳转、调用工具,最终给出了[相当扎实的回答](gist.github.com/simonw/6693d74a6bd45f641d43ceb9961dd95f),清晰描述了 datasette 的认证机制。
Simon 又让它把 Pi 的 JSONL 会话记录转换成 Markdown,它直接构建并测试了一个 Python 脚本,完美运行。
这个场景的意义:不需要云端 API,不需要按 token 付费,不需要考虑隐私——在本地跑一个能完成实际编码任务的模型。
能跑 Agent 意味着什么?Simon 的总结很实在:
> "我们有一个 17GB 的模型,能跑在高配消费级硬件上,能写代码、驱动工具、标注图片——基本上我做 LLM 工作需要的一切,它都能做。"
这里有一个很大的"但是":
速度仍然是瓶颈。
即使 Grok 4.6 号称有多快,Qwen 3.8 27B 在本地跑的速度,和云端大模型比还是有差距。Simon 的 21 分钟 vs 2 分钟的对比已经说明了这一点——关闭 reasoning 才能让它实用。
本地 AI 编程的趋势Qwen 3.8 27B 是这个趋势的最新例子:
越来越小的模型,越来越好的表现:27B 现在能做到半年前需要 70B 才能做的事本地优先:不需要网络,数据不出本地,隐私有保障开源许可证:Apache 2,随便用对于独立开发者和小型团队来说,这意味着:你可以在自己的机器上,以零成本,驱动一个基本能用的 AI 编码 agent。不需要订阅 Claude Pro,不需要担心 API 账单。
当然,前提是你得有一台内存够大的 MacBook(Simon 用的是 128GB M5 Max)。
本地 AI 编程的黄金时代,可能才刚刚开始。

来源: [Simon Willison - Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things](simonwillison.net/2026/Aug/16/qwen-38-27b/)