OpenAI当地时间8月25日公布了首款自研AI推理芯片Jalapeño的性能测试数据。这款芯片由OpenAI与博通（Broadcom）合作开发、台积电采用3nm制程代工制造，从架构设计到流片仅耗时9个月。

该芯片采用systolic array脉动阵列架构，配备HBM高带宽内存，专为大语言模型推理场景设计，不用于模型训练。

在SemiAnalysis的InferenceX基准测试中，Jalapeño与英伟达GB200、GB300系统进行了对比实测，覆盖GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款模型。

结果显示，其每瓦完成的AI吞吐量达到对比系统的1.5至1.9倍，端到端延迟仅约对方的28%至59%。

具体来看，DeepSeek R1上每瓦性能比GB300高约1.7倍，Kimi K2.5上高约1.5倍，跑GPT-OSS 120B时每千瓦峰值吞吐更比GB200高出约1.9倍。

该芯片额定功率700瓦，但测试工作负载期间持续功耗保持在550瓦或以下。

该芯片及配套服务器系统均不对外销售，仅供OpenAI内部使用，旨在降低自身GPU采购和算力运营成本。OpenAI计划2026年年底前小规模部署Jalapeño，2027年逐步扩大部署规模。

针对外界关于自研芯片是否会取代英伟达合作的猜测，OpenAI明确回应，自研芯片并非要取代英伟达，英伟达仍是重要合作伙伴，未来将持续采用多供应商策略。

该项目由前Google Cloud TPU核心工程师、OpenAI硬件负责人Richard Ho挂帅，OpenAI自家的大模型深度参与了芯片设计流程，帮助加速设计优化。

目前第二代Jalapeño芯片已进入后期开发阶段，预计未来数月内完成流片，第三代芯片也已启动概念设计。

责任编辑：kj005

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com