OpenAI首颗自研推理芯片Jalapeño首测:性能超越英伟达B200/B300,年底部署
OpenAI首颗自研推理芯片Jalapeño首测:性能超越英伟达B200/B300,年底部署
OpenAI在Hot Chips 2026大会上公布首款自研推理芯片Jalapeño基准测试结果,每瓦AI工作量达到英伟达GB200/GB300的1.5至1.9倍,端到端延迟降低1.7至3.6倍,计划2026年底前部署到自有计算基础设施。
8月26日,OpenAI在Hot Chips 2026大会上正式公布首款自研推理芯片Jalapeño的基准测试结果。这款芯片专为大语言模型推理设计,在多个公开模型测试中全面超越英伟达GB200和GB300系统。
关键测试结果:
- 在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三个公开模型上,峰值每瓦AI工作量达到对比系统的1.5至1.9倍
- 端到端延迟降低至对比系统的1/1.7至1/3.6(即延迟降低1.7至3.6倍)
- 对高交互性工作负载,性能优势达到2.1至4.1倍
- 在DeepSeek R1的低延迟区间,每千瓦吞吐量达12,258 mixed TPS/kW,对比GB300的118,差距约104.3倍
- 额定功耗700W,实际测试持续功耗保持在550W或以下
Jalapeño采用芯片、内存、网络、软件和机架级系统协同设计,专为交互式Agent工作负载优化。AI技术直接参与了芯片研发全流程,团队从设计到流片仅用9个月。借助Codex与GPT-Astra,团队在2个月内就将三款原定计划外的开源模型优化到高性能运行状态,部分AI生成的实现代码比人类专家手写版本快1.5至1.8倍。
OpenAI CEO Sam Altman在社交平台表示:"我们制造了一款芯片,它的速度很快。"OpenAI计划2026年底前将Jalapeño部署到自有计算基础设施,第二代产品已进入深度开发,第三代也已初具雏形。不过OpenAI强调,自研芯片不意味着摆脱英伟达,仍将继续大规模部署英伟达等合作伙伴的加速硬件。
此次公布标志着OpenAI从软件向硬件垂直整合迈出关键一步。随着谷歌TPU、亚马逊Trainium、微软Maia等自研芯片相继推出,头部AI公司"模型-软件-芯片-数据中心"全栈化趋势愈发明显。