4万块的AI笔记本:122B模型比27B还快
今天华硕 ProArt P16 和 P14 上市,首发到手 18999 元起,官方说本地能跑到 200B 参数的大模型。我翻了几组实测,这台机器的强弱,跟「能装下多大模型」关系不大。
第一环:三样东西塞进一颗芯片
RTX Spark 是英伟达和联发科一起做的,台积电 3nm。CPU 是 20 核 Grace,GPU 是 Blackwell、6144 个 CUDA 核心;最要紧的是内存,最高 128GB LPDDR5X,CPU 和显卡共用一块。
以前笔记本跑大模型难在哪?难在显存。独显本 24GB 到顶,模型装不进去,卡再快也只能干看着。统一内存把这道理拆了,128GB 那档实测能给显卡分到 96GB。
这是「装得下」的门槛,不是「跑得快」的保证,两件事很多人混一块了。
第二环:同样 30B,一个 63.9,一个 15.9
美国 Micro Center 拿同平台的 Surface Laptop Ultra 跑了一轮 llama.cpp,数字挺说明问题。
Nemotron 3 Nano Omni 30B,短提示每秒 63.9 个 token;Muse Glimmer 30B,每秒 15.9 个。都是 30B,差四倍。
更反常识的是 Qwen3.5 122B 每秒 35.2 个,Qwen3.8 27B 每秒 14.5 个。122B 的大家伙,反倒比 27B 快一倍多。
原因在架构:MoE 每次只叫醒一部分参数干活,决定速度的是每次动多少,不是总共多大。参数表上那个数字,是仓库面积,不是出货速度。
第三环:还有两个要等的地方
一个是读提示词。短提示首字 0.19 秒就出来;提示词拉到 9000 个 token,首字要等 6.79 秒。做长文档、整仓代码的,等待都在前面这一段。
另一个是单线程。多核成绩很硬,Cinebench 2026 多核 6963,比同场两台 x64 机器快三成到四成。可内存延迟 251 纳秒是那组最差的,吃单核的活会吃点亏。
第四环:价格和续航这笔账
华硕这两台,P16 是 16 寸 1.77 公斤,P14 是 14 寸 1.48 公斤,都配 140W 的 USB-C 电源。首批是 32GB 和 128GB 两档。
18999 那档是 32GB,跑 30B 以内够用;想上 100B 以上得往 128GB 走,那个价位四万往上。同样 128GB 统一内存的 M5 Max 本子,也是这价。
续航要分开看:同平台另一台 92Wh 的机器,轻载跑了 520 分钟,正常办公够一天;边跑模型边用电池,续航会明显缩短,这活更适合插着电干。
兼容性也得提:Windows on Arm,4K 随机读写不到同价位 x64 的一半。办公、剪辑软件都跟上了,行业软件和加密狗这类,买前最好拿自己的活试一遍。
留一分余地
不是所有叫 AI 笔记本的都这样,也不是参数越大越强。真正决定体验的是五样:模型的激活参数、量化精度、推理引擎、内存带宽、散热策略。
反例就在同一份评测里:一台 24GB 显存的 RTX 5090 笔记本,在装得下的模型上比它快 2.3 倍。装不下的时候它赢,装得下的时候别人更快,这就是统一内存的边界。
我柜台上最近问「老本子能不能升级跑 AI」的人不少。加内存、换固态,解决的是多开卡顿和存储紧张;跑大模型是另一码事,先想清楚跑哪个模型、上下文多长,再决定花多少钱。
你手上这台笔记本,最吃性能的是哪件事?浦口的朋友路过可以带来聊聊,我帮你看看瓶颈在内存、硬盘还是散热。