过去两年，所有关于「算力荒」的讨论都指向同一个字母组合：GPU。
内存涨价、显卡缺货、HBM 抢产能——这些故事你已经听腻了。但 Pragmatic Engineer 的 Gergely Orosz 最近在一场饭局上听到了一个不一样的说法：现在连 CPU 都开始抢不到了。
而且是那种「有钱也买不到」的抢不到。
一个消失的信号：spot 实例不打折了判断供需失衡，有一个比新闻稿更灵敏的指标——云厂商的 spot 实例价格。
以前你能用比标准价低 90% 的价格租到 CPU spot 实例。逻辑很简单：机器闲着也是闲着，与其空转，不如便宜卖给愿意被打断的人。折扣就是供给过剩的温度计。
现在这个温度计归零了。Gergely 在饭桌上听到的反馈是：spot 定价基本消失，因为没有闲置需求了——恰恰相反。 想拿 CPU spot 实例，除非你和云厂商有长期合作，否则几乎不可能。要预留特定型号的 CPU，得提前几个月下单，而且云厂商还会直接拒掉一部分预留请求，理由很简单：没有你要的那种 CPU。
这不是中小公司在叫苦。一家大型推理服务商的 VP of Engineering 说，他们已经买到了从云厂商那里能买到的 GPU 和 CPU 容量上限。有钱、想花、愿意签最长的租约，云厂商的回答还是：没有了。
罪魁祸首不是聊天，是 agent 跑工具为什么 AI 会突然把 CPU 也吃光？turbopuffer 的 CEO Simon Eskildsen 解释得很清楚。turbopuffer 这个产品跑在 CPU 上而不是 GPU 上，业务横跨 AWS、GCP、Azure，对这个问题体感最直接：
> Getting CPUs is not easy anymore. As Reinforcement Learning (RL) is becoming a large amount of the workloads: RL needs a lot of CPUs. So the labs are sucking up a lot of CPUs. During RL, they need to teach the models how to do things, like searching, and then they need the model to run software, which then takes CPUs to run.
>
> Then, outside of RL, agents need to do all kinds of very general purpose things on a CPU. So as the demand curve is shifting to general purpose agents, CPU demand is also going up.
>
> Even the big companies are fighting each other for the right to get the CPU allocations. I would assume that it gets a lot worse before it gets better on the CPU side.
拆开看是两条链路：
第一条是强化学习。 训练阶段要教模型搜索、用工具，就得让模型真的去跑软件——而跑软件吃的是 CPU。实验室在这上面吸走的 CPU 量，远超外界想象。
第二条才是和我们日常最相关的：agent 跑工具。
这一点值得所有做 AI 工具的人认真读一遍。推理本身吃 GPU，这没错。但一个 agent 干活的时候不只是「生成代码」，它还要：
编译代码跑测试跑 linter起数据库、拉起服务、执行脚本这些全是 CPU 密集型。 更麻烦的是，越来越多的公司不再让 agent 跑在开发者的笔记本上，而是给它一台云上的专用实例。Uber、Ramp 这些公司都是这么干的——Ramp 甚至专门造了一个叫 Inspect 的云上 agent。
Uber 的数据很说明问题：过去六个月，agentic 请求量增长了 9 倍。 一条从「本地跑」到「云端专用机跑」的迁移曲线，叠加一条 9 倍增长的请求曲线，CPU 需求就这么被顶起来了。
有个比例变化特别能说明趋势：过去 AI 数据中心里 CPU 和 GPU 的比例是 1:8，现在变成 1:4，而且可能会继续收缩到 1:1。
供给端：三条产线同时被挤需求爆炸只是一半故事，另一半是供给端的三重挤压。Claude Platform 的平台工程负责人 Katelyn Lesse 讲得最清楚：
> 过去几年 AI 带来的需求暴涨，让这几家公司突然需要「好几年」和「几百亿美元」才能补齐产能。我们最终面对的是三个同时被 AI 加剧的产能瓶颈。
具体是哪三个：
一、TSMC 的产线上，GPU 在和 CPU 抢。 而且还不止它们俩——Apple、Qualcomm、Broadcom 都在排队。
二、HBM 在和普通 DRAM 抢晶圆。 SK Hynix、三星、美光的产能往高带宽内存倾斜，因为更赚钱。
三、CPU 自己没有退路。 AMD 没有自己的晶圆厂，CPU 得从 TSMC 已经被挤爆的配额里出。Intel 有厂，但一直在处理良率问题，现在甚至开始从 PC 芯片那边抽产能来做服务器芯片。而 CPU 还需要 DRAM——DRAM 又因为产线转去做 HBM 而变贵了。
结果就是 Katelyn 那句话：CPU 被两头夹住了。
分析师的预期是，CPU 的供给会比内存先缓过来，但「也要好几个季度」。
12 个月提前量：这个变化会落到每个技术负责人头上这一轮最值得警惕的不是涨价，而是采购方式的根本变化。
Katelyn 的说法很扎心：
> Most of us have never capacity-planned CPUs. We planned databases, we maybe planned accelerators if we needed them, and we autoscaled on-demand into CPU capacity as much as our budgets allowed us to. But general purpose compute is now something many teams will need to commit to ahead of time.
翻译一下：我们这代人从来没做过 CPU 的容量规划。 数据库要规划，GPU 要规划，至于 CPU——预算够就自动扩容，不够就少跑点，从来不需要提前承诺。
现在不行了。服务器订单的交付周期从过去的 1–2 周，变成了大约 6 个月；价格涨了 10–20%；要锁定容量，得提前 12 个月做规划。Gergely 还听到传闻：某些云区域已经不再接受新客户，因为 CPU 容量全被租光了；也有客户现在就在为 12 月才上线的机房付预留费。
如果你现在就要做点什么Gergely 给的建议很务实，我按优先级重排一下：
1. 先审计，再采购。 现在正是盘点「哪些服务是 CPU 密集型」的好时机，然后问一句：它真的需要这么密集吗？ 很多服务的历史包袱比实际需求大得多。
2. 找低利用率的长尾。 那些 CPU 占用很低的闲置服务，能不能跑在更少的节点上？把省下来的配额挪给真正吃 CPU 的 agent 工作负载。
3. 该把 spot 换成固定容量了。 如果你的负载是动态的、过去依赖 spot 省钱，现在可能要接受「贵一点但确定拿得到」。在供给紧张的时候，确定性本身就是资产。
4. 想扩就现在动手。 等新配额到货可能要好几个月。Gergely 的原话是：确保拿到更多 CPU 容量最好的时机，就是现在。
一个更大的视角把时间线拉长看，这一轮硬件短缺已经轮过好几圈了：GPU 荒、内存荒，去年年底还来了一波硬盘荒——超大规模厂商转 QLC SSD，企业级硬盘排期到两年后。
Gergely 文章的结尾有句话很妙：
> The only compute primitive not in short supply seems to be networking!
> 唯一不缺的计算原语，好像只剩下网络了。
对做产品的人来说，这条新闻的真实含义不是「云要涨价了」这么简单，而是：AI 的账单不只在推理那一栏。 你让 agent 多跑一次测试、多编译一次代码、多起一个沙箱，账都记在 CPU 上。当推理价格一路腰斩的时候，这一块反而在悄悄变贵、变紧。
下次优化 AI 成本模型的时候，记得把「agent 跑工具」那一列也拉出来算算。它可能不是最大的一笔，但它很可能是你没算过的那一笔。

来源：blog.pragmaticengineer.com/the-pulse-a-new-trend-of-cpu-shortages/