众力资讯网

OpenAI“辣椒”Jalapeño芯片横空出世!推理能效大幅领先,但远没有“干

OpenAI“辣椒”Jalapeño芯片横空出世!推理能效大幅领先,但远没有“干崩CUDA”

信息仅供参考,不构成投资建议

8月25日,Hot‑Chips芯片大会,OpenAI联合博通发布首款自研推理芯片 Jalapeño(墨西哥辣椒),放出实验室基准测试数据,瞬间引爆全球AI圈。自媒体标题“压倒英伟达、GPT‑6干崩CUDA”博眼球,但这里有大量需要厘清的边界条件。

芯片基础信息

Jalapeño是专用推理ASIC,不做大模型训练,由博通代工,9个月完成流片,TDP功耗700W,对比GB300的1400W几乎减半,计划2026年底小规模内部部署,2027年逐步扩规模,只供OpenAI自用,不对外销售芯片 。

实验室测试核心数据(InferenceX基准,SemiAnalysis现场验证)

测试选用三款开源大模型:GPT‑OSS‑120B、DeepSeek‑R1‑670B、Kimi‑K2.5‑1T。
1、每瓦吞吐量:对比GB200/GB300提升1.5‑1.9倍,能效优势是最大亮点;
2、端到端延迟:仅为英伟达Blackwell平台的28%‑59%;
3、单用户解码峰值:GPT‑OSS‑120B场景,Jalapeño 1459 token/s,GB200为535 token/s。

⚠️重点澄清网传“104.3倍吞吐量”:不是综合性能104倍碾压,是特定极限解码条件下的比值,属于极限工况,不是真实线上业务综合性能,媒体标题做了夸张放大。

两大网络热词辟谣:没有“压倒英伟达”,更没有“干崩CUDA”

1、只是推理芯片,训练依旧离不开英伟达
Jalapeño定位纯推理加速,OpenAI训练下一代模型(包括传闻GPT‑6),仍然大规模采购英伟达GPU。它解决的是上线服务的推理成本,并不替代训练算力 。

2、不存在“干崩CUDA”
CUDA真正护城河是庞大软件生态、编译器、算子库、海量第三方开发者工具链。
Jalapeño是OpenAI软硬深度耦合:只深度适配OpenAI自家模型栈,第三方开源模型迁移过去需要大量改造,没有通用CUDA那样的通用软件生态。外部企业很难拿来直接跑自己业务。它是OpenAI为自己量身定做的专用芯片,不是通用替代方案。

3、测试环境是实验室样机,不等于数据中心真实生产环境
测试在实验室可控条件完成;大规模集群组网、散热、故障容错、多卡互联、长期7×24小时稳定性,还没有经过真实万亿级流量验证。第一代ASIC,量产落地一定会遇到工程难题。

这件事对行业意味着什么

1、大模型巨头自研芯片浪潮再添一员
OpenAI走上谷歌TPU、亚马逊Trainium同款路线:大模型厂商自己定义芯片架构,软硬件协同压榨推理能效,核心目标是压低自身推理电费与硬件成本,降低对外部芯片供货的依赖。

2、英伟达股价不跌反涨,背后逻辑很现实

- OpenAI依然是英伟达训练卡最大客户之一;
- 全球AI算力整体盘子爆发式扩张,就算部分推理业务被自研芯片分流,整体订单还在增长;
- CUDA生态壁垒短期很难被专用ASIC攻破。

3、赛道分化:通用GPU继续统治训练与通用AI;专用ASIC在巨头自有推理场景抢份额。普通企业、中小开发者,依旧会继续使用英伟达生态。

客观现实约束

1、仅限OpenAI自用,不会对外卖芯片,第三方公司拿不到;
2、只做推理,不支持训练;
3、生态封闭,对外部模型适配成本高;
4、样机到大规模数据中心部署,还有工程、良率、互联、运维多重关卡,进度存在不确定性;
5、对标只是Blackwell系列,英伟达下一代Rubin新芯片还未完整公开实测对比。

总结

Jalapeño辣椒芯片,是大模型公司垂直整合的里程碑,推理能效拿到亮眼的实验室成绩。但自媒体标题“压倒英伟达、干崩CUDA”属于流量夸张。

它改变的是OpenAI自家的成本结构,短期不会颠覆全球AI算力格局。真正的考验不在PPT与实验室跑分,而在年底之后,真实数据中心大规模上线之后的实际表现。

风险提示:芯片量产部署进度、大规模集群稳定性、软件生态建设均存在不确定性。本文仅行业资讯解读,不构成投资建议。