Microsoft、生成AIシステムにおけるレッドチーム向けツール「PyRIT」を公開：セキュリティニュースアラート – ITmedia エンタープライズ

Microsoftがセキュリティリスクを特定するためのオープンな自動化フレームワーク「PyRIT」を公開しました。
生成AIシステムにおけるレッドチームの作業効率を向上させるためのツールです。

記事の概要

Microsoftは生成AIシステムにおけるレッドチーム向けツール「PyRIT」を公開した。
PyRITはセキュリティ専門家とMLエンジニアが生成AIシステムのリスクを特定するための自動化フレームワークであり、AIレッドチームの作業効率を向上させることが期待されている。
PyRITは生成AIシステムの非決定論的な性質や様々な入出力モダリティに対応するために開発されており、MicrosoftのAIレッドチームによって実践でテストされている。
PyRITはオープンソースソフトウェアとしてGitHubで公開されており、業界全体でAIレッドチームのリソースを共有することを目指している。

記事のポイント

1. PyRITの公開： Microsoftはセキュリティ専門家とMLエンジニアが生成AIシステムのリスクをプロアクティブに特定できるオープンな自動化フレームワーク「PyRIT」を公開した。
2. 従来のレッドチームとの違い： 生成AIシステムのレッドチームにはセキュリティリスクと「責任あるAI」におけるリスクの両方を特定する必要がある。
3. PyRITの活用例： PyRITを使用したレッドチーム演習において、数千の悪意あるプロンプトを生成し、数時間レベルで評価できる。

詳しい記事の内容はこちらから（引用元）

ITmedia エンタープライズ

Microsoft、生成AIシステムにおけるレッドチーム向けツール「PyRIT」を公開

Microsoftはセキュリティ専門家とMLエンジニアが生成AIシステムのリスクをプロアクティブに特定できるオープンな自…