記事の概要
マイクロソフトは新たに、NPUを活用した小型言語モデル「Mu」を発表しました。
このモデルは、複雑な入出力関係の推論に対応し、Copilot+ PCの設定エージェント基盤として機能します。
現段階ではWindows Insider ProgramのDev Channel参加者のみが利用可能です。
「Mu」は330Mパラメータのエンコーダ・デコーダ型モデルで、NPU上で全ての推論を行い、インターネットなしでも利用できる点が特徴です。
また、応答速度が従来モデルより最大47%低遅延で、デコード速度も約4.7倍に向上しています。
これにより、ユーザーは自然言語でWindowsの設定を入力することで、エージェントが設定を変更することが可能になります。
記事のポイント
詳しい記事の内容はこちらから(引用元)
Impress Watch
マイクロソフトは、NPUによるローカルでの実行に特化した小型言語モデル「Mu」を発表した。複雑な入出力関係の推論を必要と…
https://www.watch.impress.co.jp/docs/news/2025579.html