記事の概要
NVIDIAは、AIエージェントの性能を向上させるオープンモデル「NVIDIA Nemotron 3 Super」を発表しました。
このモデルは、1,200億パラメータを持ち、従来モデルの最大5倍のスループットと2倍の精度を実現しています。
推論時には120億パラメータを使用し、タスクを効率的かつ高精度に処理できるよう設計されています。
また、100万トークンのコンテキストウィンドウに対応し、ハイブリッド型のMixture–of-Expertsアーキテクチャを採用。
新技術により、計算コストを抑えつつ精度を向上させることが可能です。
さらに、同時に複数の単語を予測することで推論速度を向上させています。
モデルはNVIDIA Blackwellプラットフォーム上で高い性能を発揮し、さまざまな環境で展開・カスタマイズが可能です。
記事のポイント
詳しい記事の内容はこちらから(引用元)
Impress Watch
NVIDIAは、NVIDIA Blackwell向けに最適化したオープンモデル「NVIDIA Nemotron 3 Su…
https://www.watch.impress.co.jp/docs/news/2093658.html