OpenAI 如何用自家大模型设计 Jalapeño 芯片
8月25日，OpenAI正式推出首款AI加速芯片Jalapeño。该芯片的4位算力最高可达13.4 petaflops（千万亿次浮点运算），搭载232GB当前最先进内存，内存带宽高达15.4TB/s，数据传输速度极快。OpenAI公布的基准测试数据显示，与OpenAI目前依赖的Nvidia GB300芯片相比，Jalapeño可将端到端延迟（即从输入提示词到生成最后一个token的时间）最多缩短3.6倍，同时能耗更低。
这些数据能否在Jalapeño大规模部署到OpenAI推理集群后转化为实际性能提升，仍有待观察，但性能只是故事的一面。另一面是这款芯片的设计过程——正如预期，OpenAI的大语言模型（LLMs）大幅加速了这一进程。Jalapeño从最初的架构概念到首片硅片产出，耗时不到20个月；而从完成定义芯片逻辑的RTL（寄存器传输级）代码，到最终交付制造（tape-out），仅用了9个月。
这样的研发速度已属惊人，但专家认为，随着LLMs性能提升并更深度地融入芯片设计工具，这一速度很快就会显得迟缓。OpenAI自然对其中的机遇充满信心。OpenAI硬件副总裁Richard Ho表示：“模型赋予工程师‘超能力’。核心工作仍由工程师主导，他们仍是最终决策者，但效率大幅提升，能探索的技术路径也多得多。”
小团队创下研发快速度
Ho透露，Jalapeño项目全程的平均参与人数不足100人，目前团队规模仍维持在约100人，同时推进第二代和第三代芯片设计。这一数字涵盖硬件团队从系统设计、软件开发到供应链的各类岗位，但不包括合作方Broadcom的人员。
OpenAI与Broadcom的分工大致为设计与执行：OpenAI团队负责从推理加速器、内存层级到网络的端到端系统设计；Broadcom则负责“从逻辑门开始的物理设计”，Ho解释道。
与Broadcom的合作让外界对OpenAI的研发速度有了不同看法。智能芯片设计初创公司Verkor.io联合创始人David Chin认为“他们给出的时间表可信度很高”，但强调Broadcom的助力是Jalapeño快速落地的关键：“换作其他团队从零开始，绝无可能做到。”Verkor另一位联合创始人Ravi Krishna称OpenAI的速度“相当令人印象深刻”，但补充说，如果项目从今天启动，LLMs能力的进步有望进一步缩短研发周期。
加州大学圣地亚哥分校杰出教授Andrew Kahng也认为OpenAI的研发速度值得关注，称其“堪称当前行业顶尖水平”。Kahng回忆起2016年他联合组织的IEEE设计自动化未来研讨会，当时在Google任职的Richard Ho是主旨演讲嘉宾。Ho当时就对设计自动化有明确观点，提出芯片设计所需时间取决于团队单日能完成的迭代次数。
OpenAI的LLMs如何加速Jalapeño设计
马里兰大学帕克分校半导体创新项目主任Ankur Srivastava表示：“芯片设计自动化已有数十年历史，并非新课题。”但LLMs与传统自动化工具的不同之处在于，它们能理解自然语言和代码，因此特别适合处理那些“仍处于语言逻辑范畴”的芯片设计任务。
OpenAI团队设计了一套工作流程，充分发挥LLMs的这一优势。其前端流程基于Accelerated Hardware Synthesis（XLS，加速硬件综合）构建——这是Google最初开发的开源高级综合工具链。高级综合是一种芯片设计自动化技术，让工程师能在更熟悉的编程环境中进行芯片设计。借助XLS，设计师可使用DSLX（受Rust启发的领域特定语言）、C++等语言编写代码，再由XLS将其转换为用于描述电子系统的硬件描述语言Verilog。
OpenAI技术团队成员Chris Leary表示：“我们一直在思考如何用AI加快项目进度，而AI更擅长处理类软件任务。XLS在某种程度上类似软件，因此能充分借助AI的优势。”Leary曾在Google主导XLS的开发，对其运作逻辑极为熟悉，这也为项目推进提供了助力。
Kahng认同用AI加速XLS这类高级综合工具的思路，认为“LLMs与之协作更自然”，且能实现快速迭代。他说：“我认为这是一种极具实用性的工作流程，未来潜力巨大。”
基于同样的逻辑，Jalapeño团队将重点放在软件优化上。今年5月首片芯片从代工厂下线后，团队用内部AI模型设计运行SemiAnalysis InferenceX等基准测试的软件。在DeepSeek多头潜在注意力内核基准测试中，芯片性能从理论上限（由算力和内存带宽决定）的0.31%提升至88.94%，耗时仅约40小时。Ho表示这一结果可重复，因此能缩短代工厂交付首片芯片到量产的时间：“我们未来的进度规划都将基于这一能力。”
Jalapeño以Pod为部署单元，每个Pod包含2048颗芯片。OpenAI
尽管Ho和Leary最初就规划了AI辅助工作流程的大体框架，但OpenAI模型的迭代仍带来了一些惊喜。
Leary介绍，项目初期使用的是OpenAI o3等模型（该模型于2025年4月面向公众发布，但Jalapeño团队更早获得使用权）。到项目收尾时，团队已能使用GPT-6 Astra的前驱模型——GPT-6 Astra直至2026年9月3日才公开。他表示，新模型可直接处理Verilog代码，无需借助XLS将通用编程语言转换，且已接近能独立操作专有设计工具。
Ho还证实，团队使用了专为芯片设计微调的内部LLMs，这类模型并未对外开放。他拒绝透露具体模型细节，但补充说Jalapeño团队与OpenAI研究团队有合作。尽管并非所有用于设计Jalapeño的模型都对外公开，但Ho表示，项目积累的经验将融入公司的商用LLMs中：“可以肯定的是，Astra及后续模型在芯片设计领域会表现出色。”
AI对后端优化作用有限，但未来可期
如前文所述，OpenAI在Jalapeño项目中的工作重点集中在芯片设计的“前端”，涵盖从初始概念、编写RTL代码定义设计，到验证设计物理可行性的全流程。而“后端”设计的大部分工作，包括互连布线、时钟与电源规格的完成及验证、向代工厂提交设计资料等，均由Broadcom负责，直至芯片量产。
但这并不意味着OpenAI的工作流程完全忽略了后端。Jalapeño团队配备了物理设计工程师，与Broadcom的对应人员协作，就芯片的布局规划、布线等提供指导。
在2026年IEEE Hot Chips大会上，Ho和Leary公布了AI引导物理设计优化的具体成果：与人工优化的基准方案相比，矩阵乘法单元的面积缩小了10%。换句话说，OpenAI称AI引导的优化能在相同面积的硅片上集成更多电路。
Broadcom采用了自身的内部工作流程，其团队无法使用OpenAI设计Jalapeño所用的内部模型，但可访问OpenAI的公开商用模型。
Verkor的Ravi Krishna认为，OpenAI在后端设计上的做法略显保守，这与项目启动时间（2024年10月）有关：“近四五个月来，模型性能有了显著提升。从2026年4月开始，模型处理后端任务的能力才真正变强。”Verkor联合创始人Suresh Krishna也认同这一观点，称“完全可以构建一个智能循环，大幅加速后端设计流程”。
Ho和Leary暗示，与团队的下一代芯片设计工作相比，Jalapeño的研发流程可能会显得过时。
Leary说：“研发Jalapeño时，我们一心追求速度，因此必须权衡：是花时间尝试创新，还是采用已被验证的成熟方案？到了第二代芯片，我们有机会重新梳理，搭建一套更完善的体系。”
Ho表示，第二代芯片的工作流程“会在很多环节引入AI”，比如在验证和物理设计领域拓展AI的应用。Leary补充道，团队现已具备自动波形处理与查看工具，可自动分析并定位与故障相关的芯片时钟信号，提升硬件设计阶段的调试效率。
尽管预期会有这些改进，Ho和Leary明确表示，他们不认为芯片设计能实现完全自动化。Ho解释道：“我们并非说任何人仅凭[OpenAI编程平台]Codex就能打造顶尖的AI/ML加速芯片。我们想表达的是，针对Codex的特定用法，以及小团队快速交付高质量成果的模式，我们有了一些具体的实践经验。”
Matthew S. Smith是拥有17年经验的消费科技自由撰稿人，曾任Digital Trends首席评测编辑，现为《IEEE Spectrum》特约编辑，主要报道显示技术、人工智能、增强现实等消费科技领域。作为复古计算爱好者，他在YouTube频道Computer Gaming Yesterday分享复古电脑与游戏内容。