OpenAI、自社チップJalapeñoの性能を公表し推論効率を向上

OpenAIは8月25日（米国時間）、自社開発の推論向けチップ「Jalapeño」のベンチマーク結果を公開しました。
GPT-OSS 120Bなど3モデルを用いた比較で、電力効率と応答速度の向上を示しました。
2026年内に自社のコンピューティングインフラへ導入を開始する予定です。

記事の概要

OpenAIは、米Broadcomと共同開発するカスタム推論チップ「Jalapeño」を設計しました。
Jalapeñoは、単位電力あたりのAI処理量を増やし、応答速度を高めることを目指しています。
GPT-OSS 120B、DeepSeek R1、Kimi K2.5 1Tを使い、比較対象システムと性能を比べました。
1ワットあたりのAI処理量は1.5～1.9倍に向上し、エンドツーエンドのレイテンシは1.7～3.6倍低減しました。
インタラクティブ性の高いワークロードでは、2.1～4.1倍のパフォーマンス向上を実現しました。
対話型エージェントへのサービス提供を主な用途とし、現代・将来の言語モデルを前提に設計しました。
開発にはCodexと次世代モデル「GPT-Astra」も活用し、3つのオープンウェイトモデルを2カ月で高性能化しました。
OpenAIは第2世代、第3世代の開発を進めつつ、NVIDIAなどのアクセラレータも継続して導入する予定です。

記事のポイント

1. 推論処理の効率向上： 3モデルの比較で、1ワットあたりのAI処理量を1.5～1.9倍に高め、レイテンシを1.7～3.6倍低減しました。
2. 対話型用途を想定： 現代・将来の言語モデル、とりわけ対話型エージェントへのサービス提供を主な役割として設計しました。
3. 2026年内に導入開始： 自社インフラへの導入後は、超高速モードや高速モード、バッチ推論の効率向上を目指します。

このニュースがもたらす影響

• 導入を検討する企業： OpenAIの対話型エージェントを業務に組み込む企業は、導入判断でモデル性能だけでなく、超高速・高速・バッチの各推論モードが業務要件に合うかを確認する必要が生じそうです。
• AIインフラ事業者： 自社チップとNVIDIAなどのアクセラレータを併用する方針から、単一製品の性能競争に加え、モデルやワークロードに応じた異種アクセラレータの使い分けを提案できるかが問われる可能性があります。
• AIサービス開発企業： モデルに合わせてチップや実装を最適化し、電力効率と応答速度を同時に高める開発手法が示されたことで、サービス企画の段階からモデル・ソフトウェア・ハードウェアを一体で設計する視点が求められそうです。

このニュースの背景

対話型エージェントへのサービス提供では、応答速度と単位電力あたりの処理量が重要な設計条件になります。
Jalapeñoは現代・将来の言語モデルを前提に、こうした推論ワークロードに合わせて設計されています。
OpenAIは2026年内の自社インフラへの導入開始を予定し、第2世代・第3世代の開発も進めています。
一方で、トレーニングと推論の両方でNVIDIAなどのアクセラレータも継続利用する方針です。

関連するニュース

• ドライブネッツとAMD社が、MI350シリーズ向けAIクラスタの検証済み設計図を公開しました。
• Metaは超知能を個人に広く届ける「パーソナル超知能」を掲げ、オープンモデルと米国主導を推進します。

詳しい記事の内容はこちらから（引用元）

Impress Watch

OpenAI、自社チップ「ハラペーニョ」の性能を公表 電力効率やレイテンシ向上

OpenAIは25日(米国時間)、自社開発の推論プラットフォームとして設計した新チップ「Jalapeño」(ハラペーニョ…