众力资讯网

美国 GPU 闲置现状(截至 2026 年 10 月) 两个概念: 1. 硬件物理闲置(Dark GPU,黑暗 GPU):芯片已经采购,但还没上电、没部署进机房,放在仓库; 2. 算力利用率(MFU,模型浮点利用率):服务器已经上电运行,但模型真正跑满算力的比例很低,属于算力浪费,不是硬件关机闲置。 1. 企业侧云 GP ​

美国 GPU 闲置现状(截至 2026 年 10 月)

两个概念:

1. 硬件物理闲置(Dark GPU,黑暗 GPU):芯片已经采购,但还没上电、没部署进机房,放在仓库; 2. 算力利用率(MFU,模型浮点利用率):服务器已经上电运行,但模型真正跑满算力的比例很低,属于算力浪费,不是硬件关机闲置。

1. 企业侧云 GPU 利用率(已上电,运行中集群)

Cast AI 2026 年 K8s 集群报告,抽样 AWS/Azure/GCP 上 2.3 万企业级集群:

企业客户 GPU 平均利用率仅 5%(95% 时间闲置) 合理人工调度目标约 30%,优秀调度集群上限约 50% 原因:企业抢卡锁预留资源,担心后续拿不到 GPU;但数据、模型、工程团队跟不上,大量预约资源空跑。

这个 5% 是企业客户,不是云厂商自营训练集群。

2. 美国头部 AI 大厂自营集群(MFU 模型浮点利用率)

Meta / Google:43%~46%,属于行业较高水平 xAI(55 万张 H100/H200 集群):MFU 仅 11%。硬件上电,但大规模分布式训练下通信开销、调度问题,大量算力无法被模型有效利用

服务器持续通电,只是算力没有被模型充分利用。

3. 最新热点:AWS 的「黑暗 GPU」(物理闲置,GB300 机架)

2026 年 10 月最新爆料(Business Insider):亚马逊 AWS 大量英伟达 GB300 机架已经采购入库,但目标数据中心电力容量不足,无法上电,只能放在中转仓库闲置,属于真正意义上的硬件闲置(Dark GPU)新浪财经。

8 月单月预计接收约 50 亿美元 GB300 机架,后续每月持续接收约 30 亿美元; 机房空间够,但美国部分区域电力、冷却配套跟不上,硬件只能堆在仓库等待电力扩容;- AWS 官方表述:提前囤硬件是商业策略,等电力就绪可快速上线,否认资产浪费。

4. 整体市场格局总结

1. 高端训练卡(H100/H200/GB300):硬件供给依然紧缺。只是出现两类闲置: - 一类:已采购但缺电无法部署(AWS 仓库 GB300); - 二类:已部署但模型利用率偏低(xAI 等实验室)。2. 中低端 GPU、推理卡、企业自建小集群:闲置严重,很多企业抢卡后缺少业务场景,锁卡闲置。3. 云厂商自营大模型训练集群利用率显著高于普通企业客户,Meta、谷歌的大模型训练集群可以做到 40%+MFU。

5. 背后驱动因素

1. 美国数据中心电力瓶颈:大量算力规划落地受电网容量限制,硬件到货快、电力扩容慢,催生 Dark GPU;2. FOMO 抢卡:AI 企业长期锁定算力配额,宁可闲置,也不愿后续无卡可用;3. 分布式大模型工程难度:数十万卡集群,多节点通信、负载均衡会显著压低 MFU;4. 需求分化:训练算力紧俏,推理算力供给逐步宽松。