NTTコミュニケーションズは、IOWN構想に基づき3拠点のデータセンターでGPUサーバーを分散配置し、生成AIの大規模言語モデルの学習に成功しました。
この技術により、電力コスト削減や効率的なリソース運用が期待され、持続可能なAI開発の未来を切り開く可能性があります。
記事の概要
NTTコミュニケーションズ(NTT Com)は、次世代情報通信基盤「IOWN構想」に基づき、「オールフォトニクスネットワーク」(APN)で接続された3つのデータセンター(DC)にGPUサーバー「NVIDIA H100」を分散配置しました。
この環境で大規模言語モデル「tsuzumi」の学習に成功したことを発表しました。
分散DCの構築により、余剰GPUの最適配置が可能となり、電力コストの削減と持続可能な運用が実現されます。
また、異なる拠点間での低遅延なワークロード処理や電力効率を考慮した運用が可能になります。
将来的には、国内の多くのDC間の接続を強化し、GPUクラウドソリューションを提供することを目指しています。
記事のポイント
- 分散データセンターの構築: NTT Comが3拠点でGPUサーバーを連携し、分散データセンターの新しい運用モデルを確立しました。
- 大規模言語モデルの学習成功: 世界初の試みとして、3拠点での分散学習による大規模言語モデル「tsuzumi」の学習に成功しました。
- 持続可能な運用の実現: 地域の電力供給量や価格に応じた柔軟な運用が可能となり、電力コスト削減と持続可能なデータセンター運営を目指します。
詳しい記事の内容はこちらから(引用元)
NTTコミュニケーションズ(NTT Com)は、次世代情報通信基盤「IOWN構想」の主要技術「オールフォトニクスネットワ…
https://japan.zdnet.com/article/35230699/
