AWS、初の3nm AIチップ搭載「Trainium3」　最大4.4倍高速化 – Impress Watch

記事の概要

Amazon Web Services（AWS）は、初の3nm AIチップ「Trainium3」を搭載した「Trainium3 UltraServer」の提供を開始しました。
このUltraServerは、最大144個のTrainium3チップを搭載可能で、前世代のTrainium2 UltraServerと比較して性能が最大4.4倍向上しました。
これにより、AIモデルのトレーニング時間が従来の数カ月から数週間に短縮されます。
テスト結果では、チップあたりのスループットが3倍、応答時間が4倍に高速化されています。
また、Trainium3は前世代よりもエネルギー効率が4倍向上し、環境負荷の軽減にも寄与しています。
さらに、分散型AIコンピューティングをサポートするために、「NeuronSwitch-v1」というネットワークインフラも開発され、通信ボトルネックを解消しています。
AWSは、次世代のTrainium4の開発も進めており、更なる性能向上を目指しています。

記事のポイント

詳しい記事の内容はこちらから（引用元）

Impress Watch

AWS、初の3nm AIチップ搭載「Trainium3」　最大4.4倍高速化

Amazon Web Services(AWS)は、初の3nm AIチップ「Trainium3」を搭載する「Traini…