AWS、初の3nm AIチップ搭載「Trainium3」　最大4.4倍高速化 – Impress Watch

AWSが初の3nm AIチップ「Trainium3」を搭載したUltraServerを発表しました。
これにより、AIモデルのトレーニング時間が数カ月から数週間に短縮され、エネルギー効率も4倍向上します。
省電力でありながら高性能を実現し、環境負荷軽減に寄与する点が注目されます。

記事の概要

Amazon Web Services（AWS）は、初の3nm AIチップ「Trainium3」を搭載した「Trainium3 UltraServer」の提供を開始しました。
このUltraServerは、最大144個のTrainium3チップを搭載可能で、前世代のTrainium2 UltraServerと比較して性能が最大4.4倍向上しました。
これにより、AIモデルのトレーニング時間が従来の数カ月から数週間に短縮されます。
テスト結果では、チップあたりのスループットが3倍、応答時間が4倍に高速化されています。
また、Trainium3は前世代よりもエネルギー効率が4倍向上し、環境負荷の軽減にも寄与しています。
さらに、分散型AIコンピューティングをサポートするために、「NeuronSwitch-v1」というネットワークインフラも開発され、通信ボトルネックを解消しています。
AWSは、次世代のTrainium4の開発も進めており、更なる性能向上を目指しています。

記事のポイント

1. 高速なAIトレーニング： 新しいTrainium3チップにより、モデルのトレーニング時間が数カ月から数週間に短縮されます。
2. 省エネルギー効果： Trainium3はエネルギー効率が4倍向上し、環境負荷を軽減します。
3. 先進的なネットワークインフラ： NeuronSwitch-v1により、通信遅延が10マイクロ秒未満に短縮され、効率的なデータ処理が可能になります。

詳しい記事の内容はこちらから（引用元）

Impress Watch

AWS、初の3nm AIチップ搭載「Trainium3」　最大4.4倍高速化

Amazon Web Services(AWS)は、初の3nm AIチップ「Trainium3」を搭載する「Traini…