NVIDIAは2026年8月24日、AI推論アクセラレーター「NVIDIA Groq 3 LPX」の量産開始を発表しました。
Groq 3 LPXは、NVIDIA Vera Rubinプラットフォームを拡張し、エージェント型AI向けのトークン生成を高速化します。
Nebiusは、同製品を本番環境向け推論プラットフォーム「Nebius Token Factory」に導入する予定です。
記事の概要
NVIDIA Groq 3 LPXは、応答性が求められるエージェント型AI向けに設計された推論アクセラレーターです。
NVIDIA Vera Rubin NVL72システムと組み合わせ、トークン生成速度を高めて推論性能を拡張します。
Artificial Analysisのベンチマークでは、オープンソースのエージェント型モデル「Gemma 4 31B」を実行しました。
10万トークンのコンテキスト条件下で、毎秒3,400トークンの生成速度を記録しました。
NVIDIAによると、同モデルでこれまでに記録された中で最速の性能です。
エージェント型タスクやレイテンシに敏感なワークロードで、最も近い代替プラットフォームの4倍の応答速度を実現するとしています。
Nebiusは初期採用企業となり、開発者が既存のAPIを使ったまま同社の本番環境で利用できるようにする予定です。
AI推論専用クラウドのGroqも、同プラットフォームの初期採用企業の一つとなる予定です。
記事のポイント
- 量産を開始: NVIDIA Groq 3 LPXは、Vera Rubin NVL72の推論性能を拡張するアクセラレーターとして量産が始まっています。
- 毎秒3,400トークン: Gemma 4 31Bを10万トークンのコンテキストで実行し、Artificial Analysisで毎秒3,400トークンを記録しました。
- Nebiusが初期採用: NebiusはNebius Token Factoryに導入し、既存APIを維持したまま高速なエージェント型AI推論を提供する予定です。
このニュースがもたらす影響
- 導入を検討する企業: 既存APIを維持したまま利用できる見込みのため、移行負担よりも、エージェントの反復処理や応答速度が成果に直結する業務を優先して検証する流れが強まりそうです。
- AIクラウド事業者: 近い代替基盤の4倍という応答速度が示されたことで、AIクラウド各社はモデル対応数だけでなく、エージェント向けのトークン生成性能を競争軸として訴求する必要が生じる可能性があります。
- AIアプリ開発企業: コーディングなどを数分単位で実行できる性能が示されたため、これまで待ち時間が制約だったエージェント処理を前提に、タスクの分割や検証回数を増やす設計を検討しやすくなります。
このニュースの背景
エージェント型システムは、数百から数千の推論ステップで大量のトークンを生成するため、各ステップの処理速度が全体の応答性を左右します。
一方で、エージェント型AIには大量のコンテキストを処理する能力と、低レイテンシでトークンを生成する能力の両方が求められます。
AIクラウドは、企業や開発者が大規模な推論ワークロードを実行するための基盤となっており、Nebiusなどが本番環境への導入を予定しています。
関連するニュース
- QuantumCoreが7,530億パラメータのLLMをDGX Spark 1台に搭載し、オンプレミス生成AIとして提供開始します。
- ドライブネッツとAMD社が、MI350シリーズ向けAIクラスタの検証済み設計図を公開しました。
- IBMとTogether AIが2億4,000万米ドルの複数年契約を結び、IBM Cloudに大規模なオープンソースAI推論基盤を構築します。
詳しい記事の内容はこちらから(引用元)
NVIDIAのプレスリリース(2026年8月25日 11時03分)NVIDIA Groq 3 LPX が量産開始、エージ…
https://prtimes.jp/main/html/rd/p/000000648.000012662.html