AMD、AIデータセンターの電力課題に効率化策を提案

AIデータセンターの電力消費をめぐり、AMDのSanjay Churiwala氏がコンピューティング効率の向上を提案しました。
最大100MWに達するデータセンターの電力需要に対し、電力供給の拡大だけでなく、メモリー配置やチップ設計の見直しが必要だとしています。
インメモリーコンピューティングやVLIW、SIMDなどの技術により、データ転送とメモリーアクセスの削減を目指します。

記事の概要

国際エネルギー機関（IEA）によると、データセンターは世界の電力消費量の約1.5～2％を占めます。
データセンターは、エネルギー関連の温室効果ガス排出量の約1％も生み出しています。
ゴールドマン・サックスのレポートでは、AIに起因するコンピューティング需要が2030年までに165％増加すると予測されています。
Sanjay Churiwala氏は、AIの学習と推論では数兆個のパラメーターを扱い、メモリーとの間で大量のデータ転送が発生すると説明しています。
その対策として、演算処理部の近くにメモリーを配置し、データ転送のビットあたりのエネルギーを抑える考え方を示しました。
高帯域幅メモリー（HBM）は、プロセッサーダイと密接に統合されたメモリーアーキテクチャーとして、GPUやFPGAで利用されています。
さらに、データ保存場所の近くで演算するインメモリーコンピューティングや、VLIWとSIMDの組み合わせにも言及しています。
同氏は、人間の脳が50W未満の電力で動作する点を、エネルギー効率の高いコンピューティングを考える参考モデルとして挙げています。

記事のポイント

1. メモリーを演算部に近づける： メモリーと演算処理部の距離を縮め、AIモデルで頻発するデータ転送の電力削減を目指します。
2. VLIWとSIMDを組み合わせる： 命令と複数のオペランドを同時に取得し、メモリーアクセス回数の削減と性能向上を図ります。
3. 冷却電力も抑える設計： コンピューティング自体の消費電力を下げることで、高密度環境の冷却に必要なエネルギーも減らせるとしています。

このニュースがもたらす影響

• AI基盤の導入企業： AI基盤の選定では、演算性能だけでなく、メモリー配置やデータ転送量、冷却まで含めた消費電力を比較する必要が高まりそうです。
• 半導体・装置企業： チップ単体の性能競争から、HBMやインメモリーコンピューティング、VLIW・SIMDを組み合わせた構成全体の効率を示す競争へ移る可能性があります。
• データセンター運営者： 電力の調達量を増やすだけでは対応しにくくなり、計算密度と冷却負荷を同時に下げられる設計を、設備計画の早い段階で検討することが求められそうです。

このニュースの背景

IEAによると、データセンターは世界の電力消費量の約1.5～2％を占め、エネルギー関連の温室効果ガス排出量の約1％を生み出しています。
ゴールドマン・サックスのレポートでは、AIに起因するコンピューティング需要が2030年までに165％増加すると予測されています。
AIの学習と推論では数兆個のパラメーターを扱い、メモリーとの間で大量のデータ転送が発生するため、演算以外の電力負荷も課題になります。
最大100MWに達するデータセンターの電力需要を背景に、電力供給の拡大に加えて、メモリー配置やチップ設計から効率を高める考え方が示されています。

関連するニュース

• NTTドコモビジネスと東京電力パワーグリッドが、大田区で液冷式コンテナー型データセンターを展開します。
• エヌビディア幹部の発言から、2030年までにAIデータセンターが100GW規模へ拡大する見通しと資金需要を整理します。

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

よりスマートなコンピューティングはAIデータセンターのエネルギー問題を解決できるのか？

AIの急速な普及に伴い、データセンターの莫大なエネルギー消費が課題となっている。単純に電力供給を拡大するだけでなく、コン…