Microsoftは生成AIシステムにおけるレッドチーム向けツール「PyRIT」を公開した。
PyRITはセキュリティ専門家とMLエンジニアが生成AIシステムのリスクを特定するための自動化フレームワークであり、AIレッドチームの作業効率を向上させることが期待されている。
PyRITは生成AIシステムの非決定論的な性質や様々な入出力モダリティに対応するために開発されており、MicrosoftのAIレッドチームによって実践でテストされている。
PyRITはオープンソースソフトウェアとしてGitHubで公開されており、業界全体でAIレッドチームのリソースを共有することを目指している。
Microsoftはセキュリティ専門家とMLエンジニアが生成AIシステムのリスクをプロアクティブに特定できるオープンな自…
国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。
SNSをフォローして頂くと、最新のAI記事を最速でお届けします！
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/