記事の概要
マイクロソフトは5月19日に、PC上でAIモデルを直接実行できる「Foundry Local」を発表しました。
この技術は、AIモデルのローカル実行やクロスプラットフォームアプリの開発に利用可能で、WindowsとmacOSに対応しています。
主な特徴として、ONNX Runtimeを活用した高性能なモデル実行が挙げられます。
Windowsでは、多様なハードウェアベンダーとの連携により、最適化が行われ、MacではApple siliconのGPUアクセラレーションに対応しています。
また、エッジ向けのAIモデルをアプリ内で直接利用することができ、Foundry CLIやSDKを通じて簡単にモデル管理が可能です。
導入にはターミナルでのコマンド操作が必要で、詳細はマイクロソフトのウェブサイトで確認できます。
記事のポイント
詳しい記事の内容はこちらから(引用元)
ASCII.jp:マイクロソフト、AIモデルをPCで動かせる「Foundry Local」https://ascii.jp/elem/000/004/270/4270169/