短短9个月,OpenAI自研芯片已超越英伟达Blackwell?

  OpenAI 首颗自研芯片 Jalapeño横空出世,以令人咋舌的速度颠覆了 AI 芯片行业的既有格局——这不仅是一次产品发布,更是一个信号:AI 正在重塑芯片本身的设计方式。

  据华尔街见闻文章报道,据彭博 8 月 25 日报道,OpenAI 表示,Jalapeño在单位功耗可处理的 AI 工作量和响应速度两项关键指标上均领先英伟达 GB300。

  该芯片由 OpenAI 与 Broadcom 合作开发,专为 AI 推理阶段设计,最快将于今年晚些时候投入实际使用。

  OpenAI 芯片负责人 Richard Ho 表示,Jalapeño在 700 瓦低功耗下即可实现强劲性能,有助于大幅降低数据中心电力成本。

  据半导体研究机构 SemiAnalysis 披露,这颗芯片从设计启动到完成流片仅历时约 16 个月,而其中关键的 CoWoS 封装流片节点完成于 2025 年 11 月,距今不过 9 个月,远低于行业惯常的 18 至 36 个月周期

  SemiAnalysis 研究人员亲赴 OpenAI 实验室,使用其自研基准测试套件 InferenceX 对 Jalapeño进行了实测,结论直接:该芯片在每瓦性能(perf/W)指标上击败了他们此前测试过的所有英伟达、AMD 及谷歌芯片。

  更值得关注的是,这一成绩是在 Jalapeño尚未启用投机解码、未做预填充与解码分离部署等优化手段的情况下取得的,而参与对比的其他芯片均已开启各自最优配置。

  难怪就连著名半导体分析师 Dylan Patel 也直言,“被掀翻的不只是 Blackwell,就连英伟达 Rubin 芯片也被超越了”!

  分析认为,这一结果对英伟达的市场地位构成直接挑战,也令市场重新审视 AI 芯片竞争格局。

  实测数据:Jalapeño在多项关键指标上碾压 Blackwell

  SemiAnalysis 的测试结果显示,Jalapeño在推理效率上的优势相当显著。

  在GPT-OSS 120B 模型上,Jalapeño每秒可输出约 1459 个 Token,而英伟达 GB200 仅为 535 个;端到端延迟方面,Jalapeño完成一个任务仅需 1.65 秒,GB300 则需接近 6 秒,差距达 3.6 倍。在高交互场景下,当 GB300 被推至其最快解码速度(每秒 169 个 Token)时,Jalapeño的吞吐量是其 104.3 倍。

  在每兆瓦每秒输出 Token 数这一衡量数据中心能效的核心指标上,Jalapeño在GPT-OSS 模型上达到约 5300 万个 Token/MW/s,而 GB200 NVL72 仅约 1000 万。

  SemiAnalysis 指出,这一指标本质上等同于每焦耳产出的 Token 数,直接决定了数据中心的收入天花板——在算力受电力约束的当下,这一维度的优势尤为关键。

  从系统级成本来看,据 SemiAnalysis 将供电、散热、网络全部纳入计算后,Jalapeño每芯片每小时总拥有成本约为 1.56 美元,与 H100 的 1.55 美元几乎持平,而英伟达 Vera Rubin 则高达 3.61 美元。

  值得注意的是,SemiAnalysis 同时提出了若干重要保留意见。

其一,测试所用模型并非当前最前沿的模型,英伟达和 AMD 已在更大规模模型(如 DeepSeek V4 Pro、Kimi K3)上发布了基于 AgentX 套件的成绩,而 Jalapeño尚未完成 AgentX 测试——该套件更能反映多轮、长上下文等真实生产场景的性能表现。 其二,更公平的比较对象应是同样采用 HBM4 的英伟达 Vera Rubin,而非 Blackwell;Vera Rubin 的每瓦性能较 GB200 NVL72 提升约 5.4 倍,与 Jalapeño相比,两者在每 Token 总拥有成本(TCO)上几乎持平。 其三,Jalapeño目前仍处于工程样片阶段,量产预计要到 2027 年才逐步爬坡。

  AI 设计芯片:GPT-Astra 与 Codex 的"飞轮效应"

  Jalapeño之所以能以如此惊人的速度完成开发,AI 工具的深度介入是核心原因之一。据 SemiAnalysis 披露,OpenAI 在芯片设计过程中大量使用了内部 AI 模型,其中包括被外界广泛关注的 GPT-Astra。

  社交平台X用户 Andrew Curran 援引 OpenAI 信息指出,GPT-Astra 深度参与了 Jalapeño的研发全程:

"团队借助 Codex 与 GPT-Astra,在两个月内将三个原本不在 Jalapeño量产计划内的开源模型调优至高性能状态。"

  这意味着,AI 不仅在加速芯片设计本身,还在快速扩展芯片所能支持的模型范围。

  SemiAnalysis 的数据进一步量化了这一贡献:

AI 辅助设计使 SIMD 单元面积缩减8%,矩阵引擎面积缩减 10%,同时在时序和功耗表现上均优于初始版本。 在软件层面,OpenAI 使用内部扩展版 Codex 编写 Jalapeño内核,部分内核代码长达约 3000 行;在最吃性能的注意力机制和 MoE 模块上,AI 生成的代码比人类顶尖工程师的实现快出 1.5 至 1.8 倍。

  SemiAnalysis 对此评价颇为犀利:跑在英伟达 GPU 上的 OpenAI 模型(如 GPT-5.6 Sol),正被用来设计一颗对 CUDA 护城河构成真实威胁的芯片——"英伟达自己的 GPU 正在实时催生自己潜在的接班人"。

  架构解析:为何"通用"反而更快?

  外界普遍预设 Jalapeño是一颗专为 OpenAI 自家模型深度定制的芯片,但 SemiAnalysis 的结论恰恰相反:Jalapeño是一颗面向 AI 推理的通用芯片,能够运行各类模型和工作负载,甚至包括用 Codex 移植的《毁灭战士》游戏。

  在架构层面,Jalapeño的核心设计哲学是"消除固定延迟"。与 GPU 依赖复杂内存层级不同,Jalapeño将计算核心与 HBM 切片直接绑定,核心间通过专用高带宽集合网络同步,大幅降低了内存访问延迟。

  此外,Jalapeño采用乱序执行(OoO)核心搭配 L1 缓存,而非其他加速器普遍使用的软件管理暂存器,这使其在小批量、低延迟场景下能够更接近硬件理论峰值。

  在内存带宽方面,Jalapeño采用 HBM4,实现了 15.4TB/s的单封装内存带宽,每瓦 HBM 带宽达 22,而英伟达 Rubin 为 11.1,GB300 仅为 5.71

  SemiAnalysis 指出,Jalapeño的 HBM4 引脚速度达 10Gbps,略高于英伟达 Rubin 的 9.6Gbps,HBM 供应商可能为三星。

  值得一提的是,Jalapeño选择不做预填充与解码分离部署(PDD)。SemiAnalysis 对此给出了详细解释:

在真实生产环境中,输入输出比例、并发量、缓存命中率等参数持续变化,固定分池会导致全局利用率下降;而同构资源池可以灵活响应流量变化,在延迟敏感型请求和高吞吐批处理之间动态调配。

  CUDA 护城河:裂缝已现?

  SemiAnalysis 在报告中抛出了一个颇具分量的判断:CUDA 的护城河可能已经死了。

  其依据在于软件起步速度的对比。英伟达 Rubin 的 CoWoS 流片比 Jalapeño早一个月完成,但迄今为止,外界能看到的 Rubin 公开基准数据仅来自 CoreWeave 的工程样片,英伟达并未像 OpenAI 那样开放第三方进入实验室自由测试。SemiAnalysis 认为,这反映的不是硬件本身的差距,而是软件成熟度的差距。

  从零开始构建软件栈,反而让 OpenAI 得以摆脱历史包袱,做出更干净的架构决策。OpenAI 使用自研内核编程语言 Gluon(基于 Triton 构建)以及内部推理引擎"Teacup",并借助 Codex 快速完成内核调优。SemiAnalysis 观察到,在不到两周的时间内,Jalapeño在特定交互速度下的吞吐量提升超过 2 倍;在 8 天内,团队将张量并行从 TP8 扩展至 TP32,实现了跨机架的全机柜规模部署。

  不过,SemiAnalysis 也明确指出,目前的测试仅覆盖 8k1k 这一相对简单的工作负载,尚未完成 AgentX 多轮长上下文测试。在更复杂的智能体工作负载下,路由器、前缀缓存等组件的表现将成为新的考验。

  下一步:B0 已入厂,10GW 版图徐徐展开

  Jalapeño的故事远未结束。

  据 SemiAnalysis 披露,目前公开测试所用的均为 A0 步进样片,而 B0 步进已进入晶圆厂,预计在每瓦性能上较 A0 再提升约 25%——B0 单颗计算 die 的 MXFP4 算力将达 13.4 PFLOPs,TDP 维持在 700W。

  在系统层面,OpenAI 与 Celestica 合作设计了完整的机架方案:每个 ASIC 机柜包含 128 颗 Jalapeño芯片,双机柜系统总功耗约 160kW,与英伟达 GB300 双宽机柜相当。

  规模化部署方面,单一扩展网络域最多可连接 2048 颗 Jalapeño XPU,覆盖 16 个机架。量产方面,SemiAnalysis 预计将于 2027 年逐步爬坡下一个里程碑目标是 100MW 部署规模。

  更大的战略图景是,OpenAI 与 Broadcom 已签署 10GW 定制加速器合作协议,这一量级大致相当于十座核电机组的满发功率。

  华尔街见闻文章写道,OpenAI 芯片负责人 Richard Ho 表示,公司已达到能够切实降低基础设施成本的功耗和成本水平,"这只是第一步"。他同时强调,英伟达仍是重要合作伙伴,OpenAI 对算力的需求极为庞大,短期内不会放弃现有供应商。

  分析人士指出,Jalapeño的意义或许不在于它今天能替代多少英伟达芯片,而在于它证明了一件此前被普遍质疑的事:一家 AI 公司,用 AI 工具,在创纪录的时间内,造出了一颗真正具备竞争力的芯片。这个飞轮,已经开始转动。