出品 | 网易智能
作者 | 辰辰
编辑 | 王凤枝
第一代自研芯片,通常是用来交学费的。OpenAI 这次没有。
当地时间 8 月 25 日,OpenAI 在芯片行业会议 Hot Chips 期间,公布了 Jalapeño的第一组实测数据。

Jalapeño标称功耗 700 瓦,对面的英伟达 GB300 是 1400 瓦。在 SemiAnalysis 现场验证部分运行的 InferenceX 测试中,Jalapeño在三个开放权重模型上取得了更高的每瓦吞吐和更低的端到端延迟。
SemiAnalysis 甚至认为,Jalapeño的表现已经超过英伟达 Blackwell。

不过,这还不算一场完整的正面对决。测试没有覆盖全部生产负载,数据主要由 OpenAI 提供,芯片也尚未大规模部署。现在还不能说 OpenAI 已经全面击败英伟达。
但一家第一次造 ASIC 的模型公司,第一代产品就摸到了前沿推理芯片的竞争区间,这件事本身已经不寻常。
而比性能图更值得留意的,是 OpenAI 正在让 AI 参与芯片的设计和编程,试图绕过自研芯片最难补齐的那块短板:软件生态。Jalapeño真正触碰的,可能不是英伟达某一代芯片的性能上限,而是比性能更深一层的东西:CUDA。
一、三组数据,三个模型
Jalapeño是 OpenAI 与博通合作开发的推理专用 ASIC,只做推理不做训练,围绕特定负载定制,不依赖英伟达的 CUDA 生态。它今年 6 月首次公开,两个月后 OpenAI 交出了第一份成绩单。
测试使用的是 SemiAnalysis 推出的公开基准 InferenceX,对比对象是英伟达 GB200 和 GB300 系统。三个模型跑下来:
每瓦能够完成的 AI 工作量,高出 1.5 至 1.9 倍;
端到端延迟优势达到 1.7 至 3.6 倍;
在高交互场景中,性能高出 2.1 至 4.1 倍。

三个模型分别是 GPT-OSS 120B、DeepSeek R1 670B,以及月之暗面的 Kimi K2.5 1T。第三个模型拥有一万亿参数,是这次测试中规模最大的一个。Jalapeño在它上面的峰值每瓦性能约高出 1.5 倍,端到端延迟低 3.4 倍。
OpenAI 硬件副总裁理查德·何(Richard Ho)的说法是,AI 系统通常要在低延迟和高吞吐之间取舍,而 Jalapeño试图同时做到两点。
两个边界要先交代清楚。一是对比对象不含 Rubin:OpenAI 官方对比的是 Blackwell 平台的 GB200 和 GB300,而不是同样使用 HBM4、已经开始交付的 Rubin。SemiAnalysis 随后把 Jalapeño与英伟达此前公布的 Rubin 结果放在一起比较,但那不是同一实验室、同一轮测试的正面对决。二是数据由 OpenAI 提供:SemiAnalysis 在实验室现场验证了 InferenceX 的部分运行,没有完成整套测试,也没有看到 AgentX 结果,而后者更接近真实的智能体生产负载。
二、700 瓦背后的账
我们回到芯片规格。

单颗 Jalapeño配备 6 组 HBM4 内存,总容量 216GB,带宽达到 15.4TB/s。芯片采用台积电 N3P 工艺,标称功耗 700 瓦。OpenAI 称,在本次测试负载中,它的持续功耗始终没有超过 550 瓦。
作为对照,英伟达 GB300 配备 288GBHBM3E,标称功耗 1400 瓦。
需要说明的是,OpenAI 这次计算每瓦性能时,采用的是双方公开的芯片封装功耗,而不是在同一实验室测得的实际用电量。因此,700 瓦和 1400 瓦不能直接理解成"只花一半电费",但可以作为统一的功耗归一化口径。
OpenAI 反复强调"每瓦",是因为电力正在成为 AI 扩张最难增加的资源之一。数据中心能接入多少电,受电网、散热和备用电源等条件限制。增加芯片相对容易,增加可用电力却可能需要数年。
黄仁勋今年在 Computex 2026 上说过一句话:"如果你有一吉瓦电力,那么每瓦的吞吐量,就是收入。"

在电力封顶的情况下,谁能用相同功率生成更多 token,谁就能在同一座数据中心里服务更多用户。所以 OpenAI 把每瓦性能放在第一位。
还有一层更直接的理由:成本。
OpenAI 每年要把大量资金花在推理算力上。如果自研芯片能够降低总拥有成本,它就可能改善推理业务的毛利。但最终能省多少,还要看芯片设计、良率、HBM 和封装、网络、部署到长期运维这整条账。
很多自研芯片计划最困难的地方,也不只是把硬件造出来。每增加一种模型、算子和运行方式,软件栈都要继续适配和优化。GPU 昂贵,但 CUDA 替客户承担了其中很大一部分工程成本。
Jalapeño接下来还要证明,这笔长期的软件账能不能降下来。
三、为什么它能同时做到快和省电
这和 Jalapeño的设计起点有关。
通用加速器需要兼顾训练、推理以及不同类型的计算任务。Jalapeño从一开始围绕语言模型推理设计,尤其关注需要连续执行多个步骤的智能体负载。
语言模型推理大致分成两个阶段。预填充阶段需要处理整段输入,计算更密集;进入解码阶段后,模型逐个生成 token,瓶颈更多来自内存带宽。数据还要在芯片之间搬运,传输过程中,一部分计算单元只能等待。
Jalapeño的做法是把模型状态(包括生成时使用的 KV 缓存)尽量放在离计算更近的位置,减少搬运。网络也被算进整体架构里,让任务尽量在一个相互连接的系统内跑完。
它不是只针对某一个模型定制的芯片。OpenAI 希望它能够覆盖不同规模、不同架构的推理负载,并在预填充和解码之间灵活分配计算、内存和网络资源。
SemiAnalysis 创始人兼首席分析师迪伦·帕特尔(Dylan Patel)受邀前往 OpenAI 实验室查看芯片,并参与验证 InferenceX 的部分运行。他在报告中的评价很高:第一代自研芯片通常没有竞争力,但 Jalapeño在他们目前能够测试的产品中,已经超过多款英伟达、AMD 和谷歌芯片。

四、AI 参与芯片,也在动摇 CUDA 的一部分护城河
Jalapeño的诞生速度,可能比它的运行速度更值得注意。
从设计到流片,只用了九个月;从团队组建算起,前后大约十六个月。对一支从零开始的芯片团队来说,这是很快的节奏。
AI 在其中起了直接作用。OpenAI 使用自己的模型探索实现方案、缩短验证循环,并帮助优化芯片中的算术电路。反过来,这颗芯片也被设计成更容易让 AI 参与编程的样子。
工程师使用 OpenAI 自研的编程语言 Gluon 编写内核。一段内核代码可能长达数千行,需要不断针对芯片结构手工调优。后来,OpenAI 让内部 Codex 配合 GPT-Astra 参与这项工作。两个月内,团队把三个原本不在生产计划中的开放权重模型适配到了 Jalapeño上。
在部分 GPT-OSS 注意力模块和混合专家模块中,AI 生成的实现比原有的人类专家版本快 1.5 至 1.8 倍。OpenAI 特意说明,这个数字只适用于选定模块,不能外推到整个模型。
这些数据仍然有限,但它指向了 Jalapeño最反常识的地方:AI 已经开始参与芯片本身的设计、验证和软件优化,而不只是被服务的对象。
这件事对 CUDA 的意义比对性能的意义更大。
过去,ASIC 可以围绕特定负载获得漂亮的性能,但每增加一个新模型,团队都要重新编写内核、适配算子、维护编译器和调试工具。GPU 贵,CUDA 的价值恰恰在于把这些成本分摊给了一个庞大的开发者和软件生态。
Jalapeño展示了另一条路径:OpenAI 不必先复制一整套 CUDA 生态,而是让 AI 参与编写和优化底层代码,降低新模型进入自研芯片的适配成本。
如果这种方法能够稳定扩展,CUDA 面对的未必是另一个 CUDA。过去需要大量工程师和多年生态积累解决的一部分适配工作,未来可能由模型自动生成、测试和优化代码来完成。
但现在还不能把这写成 CUDA 护城河已经失效。Jalapeño主要服务 OpenAI 自己的模型和负载,外部开发者还不能像使用 CUDA 一样,在这套平台上自由部署和维护应用。它说明 OpenAI 能在内部降低对 CUDA 的依赖,但还没说明 OpenAI 建起了一套面向市场的替代生态。
五、和英伟达的关系还没有翻篇
这组数据出来后,最微妙的仍然是 OpenAI 与英伟达的关系。
8 月 17 日,英伟达刚刚宣布为 SB Energy 在俄亥俄州建设 PORTS-Pike 园区提供信用支持。据《金融时报》等媒体报道,相关支持上限可能达到 1050 亿美元。
但这不是英伟达直接向 OpenAI 发放贷款。SB Energy 负责建设和运营园区,OpenAI 签下 20 年租约;英伟达支持的是土地、电力、建筑以及部分剩余价值安排。作为交换,这座园区将独家采用英伟达计算平台。
一边是 OpenAI 继续依靠英伟达扩张算力,另一边是 OpenAI 拿出自己的推理芯片。两件事并不矛盾。
理查德·何对彭博社说:"英伟达是非常好的合作伙伴,我们仍然需要大量的英伟达。"
Jalapeño只做推理,不覆盖训练。OpenAI 也明确表示,未来还会大量用英伟达和其他厂商的加速器,训练和推理都用。
Jalapeño使用的 HBM4,是目前半导体行业最紧缺的零部件之一。OpenAI 与博通去年 10 月公布了一项 10GW 多代自研加速器合作计划,目标从 2026 年下半年开始部署,到 2029 年底完成。如果按计划扩大,OpenAI 将成为 HBM4 市场上的重要买家。这里需要保留边界:10GW 对应的是多代加速器和长期部署计划,不能全部换算成当前这一代 Jalapeño的产量。
六、还有两个前提要放在一起看
除了第一节已经交代的 Rubin 对比和数据来源,还有两个前提。
测试使用的三个模型规模不小,却不是各家最新的开放模型。更新、更复杂的模型在 Jalapeño上的适配速度和实际表现,还需要继续观察。
不同系统采用的推理优化方式也不完全一致。Jalapeño此次使用单 token 预测,英伟达部分公开生产数据则使用多 token 预测等优化。SemiAnalysis 认为,如果统一配置,领先幅度可能发生变化;反过来,Jalapeño未来加入类似优化后,也可能继续提高性能。
把四个前提放在一起:OpenAI 确实造出了一颗能运行、第一代就进入竞争区间的推理芯片;但它还没有证明,这颗芯片能够在量产、真实生产负载和更广泛模型上持续保住优势。
七、下一颗芯片,可能比这一颗更重要
OpenAI 造这颗芯片的速度,可能比今天的性能排名更值得琢磨。
2024 年年中立项,2025 年 11 月流片,2026 年 8 月交出第一组实测数据。前后不到两年。
萨姆·奥特曼(Sam Altman)在X上只发了一句话:"我们造了一颗芯片,它很快。"

但 OpenAI 想加速的,可能不只是这一颗芯片。
第一代 Jalapeño的设计过程中,AI 已经参与探索电路和缩短验证周期;芯片回来后,Codex 又开始为它编写内核、适配新模型。这些软件、测试和运行经验会继续进入第二代设计,而更快的芯片又能运行更强的模型。

模型帮助设计芯片,芯片让模型运行得更快,更快的模型再去参与下一代芯片的设计与编程。
如果这套循环能够跑起来,OpenAI 和传统芯片公司比的就不再是某一代产品的参数,而是谁能更快跑完一轮迭代。这和英伟达"芯片—CUDA—开发者—更多芯片"的正反馈是两种不同的机制:前者靠模型能力递增,后者靠生态锁定。
Jalapeño第一代甚至还没有正式进入 OpenAI 的数据中心,第二代已经深入开发,第三代已经开始规划。
英伟达需要观察的,不只是今天这张性能图,还有 OpenAI 多久会交出下一张。
