Microsoftは10月12日、独自AIアクセラレーター「Azure Maia」を2027年から数ギガワット規模に拡大すると発表しました。
同年には第3世代のAIチップ「Maia 300」も展開します。
長いコンテキストの推論や会話、AIエージェントの処理を想定し、電力効率と処理能力の向上を目指します。
記事の概要
Microsoftは、自社設計のAIアクセラレーター「Azure Maia」を2027年から数ギガワット規模へ拡大します。
第3世代となる「Maia 300」は、長いコンテキストを扱う推論や応答速度が重視される会話を想定しています。
複数段階にわたるAIエージェントの処理も、Maia 300の想定用途に含まれます。
Microsoftによると、Maia 200は米国、欧州、オーストラリアで展開中です。
Maia 200はMicrosoft Copilotに使われ、TeamsやCopilotの内蔵AI機能を支えています。
Maia 200は先行するGPU基盤に比べ、電力あたり最大1.7倍のトークンを処理できるといいます。
Maia 300は、先行するGPUベースのシステムに比べ、1メガワットあたりの処理トークン数を40%増やせると説明されています。
アクセラレーター96基を搭載する構成では、Maia 200に対してラック単位のトークン処理量が最大7倍になるとしています。
記事のポイント
- 2027年に第3世代: Microsoftは2027年、Azure Maiaを数ギガワット規模へ拡大し、Maia 300を展開します。
- AIエージェントに対応: Maia 300は長いコンテキストの推論や会話に加え、複数段階のAIエージェント処理を想定しています。
- 処理量は最大7倍: 96基構成では、Maia 200に比べてラック単位のトークン処理量が最大7倍になると説明しています。
このニュースがもたらす影響
- 導入を検討する企業: Azure上で長いコンテキスト処理やAIエージェントを運用する企業は、モデル性能だけでなく、電力あたりの処理量やラック構成を含めて基盤を選ぶ必要が高まりそうです。
- クラウド競合各社: Microsoftが自社チップを推論基盤に組み込み、電力1メガワットあたりの処理量を高める方向を示したことで、競合各社もAIサービスの価格だけでなく、電力効率とエージェント処理への適合性を示すことが求められそうです。
- データセンター運営者: 数ギガワット規模への拡大とラック単位の処理量向上を前提にすると、AI向け設備では電力供給やラック設計を、将来の推論需要とチップ構成の変化まで見込んで検討する必要がありそうです。
このニュースの背景
AI処理の拡大に伴い、MicrosoftはAIの動作を高速かつ低電力にするため、クラウド計算基盤そのものを自社設計しています。
Maia 200はすでに米国、欧州、オーストラリアで展開され、Microsoft CopilotやTeamsなどの内蔵AI機能を支えています。
MicrosoftはAIモデルからソフトウェア、ハードウェアまで垂直統合し、電力効率を高めながらAI処理能力を拡大する考えです。
関連するニュース
- EdgeCortixは、最大4ダイで拡張できるAIチップレット基盤「RAIDEN」を発表しました。
- NVIDIAは、HBM4E比で帯域幅や消費電力を改善するNVHBMを提供します。
- NTTドコモビジネスが、1分単位で使えるGPUaaSを提供し、専有環境との拡張にも対応します。
詳しい記事の内容はこちらから(引用元)
AIの動作を高速かつ低電力にするため、クラウド計算基盤そのものを自社設計する動きが進んでいる。…
https://ascii.jp/elem/000/004/441/4441933/