マイクロソフトの「Foundry Local」は、PC上でAIモデルを直接実行できる革新的なソリューションです。
これにより、ユーザーはエッジ向けAIを手軽に利用でき、効率的なアプリ開発が可能になります。
デバイスの性能を最大限に活用することで、AIの普及と日常生活への密接な統合が期待されます。
記事の概要
マイクロソフトは5月19日に、PC上でAIモデルを直接実行できる「Foundry Local」を発表しました。
この技術は、AIモデルのローカル実行やクロスプラットフォームアプリの開発に利用可能で、WindowsとmacOSに対応しています。
主な特徴として、ONNX Runtimeを活用した高性能なモデル実行が挙げられます。
Windowsでは、多様なハードウェアベンダーとの連携により、最適化が行われ、MacではApple siliconのGPUアクセラレーションに対応しています。
また、エッジ向けのAIモデルをアプリ内で直接利用することができ、Foundry CLIやSDKを通じて簡単にモデル管理が可能です。
導入にはターミナルでのコマンド操作が必要で、詳細はマイクロソフトのウェブサイトで確認できます。
記事のポイント
- AIのローカル実行: マイクロソフトの「Foundry Local」により、PC上でAIモデルを直接実行できるようになります。
- クロスプラットフォーム対応: WindowsとmacOSの両方に対応しており、幅広いデバイスで利用可能です。
- 開発者向けツール: Foundry CLIやSDKを提供し、アプリケーションにAI機能を統合するための簡素な手段を提供します。
詳しい記事の内容はこちらから(引用元)
ASCII.jp:マイクロソフト、AIモデルをPCで動かせる「Foundry Local」https://ascii.jp/elem/000/004/270/4270169/