芯闻简讯：OpenAI公布自研芯片测试数据，能效超越GB200/GB300

近日，OpenAI公布了其首款自研AI推理芯片“哈拉佩尼奥”（Jalape?o）的最新第三方基准测试数据。

数据显示，在单位功耗下，该芯片的AI推理性能达到英伟达旗舰算力系统GB200、GB300的1.5至1.9倍，端到端推理延迟时间大幅减少40%至70%（即响应速度提升1.7至3.6倍）。这一突破意味着，在缓解大语言模型（LLM）及AI智能体（AI Agent）应用的高功耗与高延迟痛点上，专用ASIC芯片正展现出显著优势。

 SemiAnalysis 测试数据，Jalapeño 在 GPT-OSS 120B 上可达到1459 tokens/s/user 的解码速度，token 间隔低于 1 毫秒；在 DeepSeek R1 上，单并发请求速度为700 tokens/s/user。

“哈拉佩尼奥”是OpenAI于2026年6月发布的首款自研AI推理芯片，研发代号源自墨西哥哈拉佩尼奥辣椒。与通用GPU不同，“哈拉佩尼奥”是一款专为大语言模型推理场景优化的定制芯片（ASIC），主要用于支撑ChatGPT等产品的实时推理，旨在降低推理成本、提升推理速度。

从研发细节来看，该芯片由OpenAI负责整体架构设计，并与博通（Broadcom）深度合作完成芯片实现、网络连接及量产整合，由台积电代工，研发至流片（Tape-out）全周期仅耗时9个月。

值得注意的是，这些成绩是在Jalapeño未使用多token预测（MTP）或推测解码等软件优化技术的情况下取得的，而部分对比系统依赖了这些优化。

从硬件规格看，Jalapeño采用台积电N3P工艺制造，单颗芯片热设计功耗为700W，但OpenAI表示实测持续功耗在测试负载下保持在550W或更低。

芯片集成6个HBM4堆栈，提供216GiB内存和15.4TB/s带宽，在标称功耗下每瓦内存容量比GB300高出约50%。其计算裸片提供13.4 PFLOPs的MXFP4算力。

SemiAnalysis在其实验室与OpenAI工程师共同完成测试后评价称，Jalapeño"击败了我们测试过的每一颗Nvidia、AMD和Google芯片"。