政府機関がAI安全性の評価観点ガイドを改訂、マルチモーダルに対応

政府機関がAI安全性評価ガイドを改訂し、マルチモーダルモデルに対応した内容を追加しました。
これにより、AI開発者は新たなリスクに対する具体的な評価基準を得られ、安全性向上が期待されます。
社会全体の信頼性向上に寄与する重要な改訂です。

記事の概要

政府機関であるAIセーフティ・インスティテュート（AISI）と情報処理推進機構（IPA）は、2025年4月2日に「AIセーフティに関する評価観点ガイド」を改訂したことを発表しました。
新たに公開された第1.10版では、マルチモーダル基盤モデルに対応する評価項目例が追加され、AIシステムの安全性評価に必要な基本的考え方を示しています。
特に、「有害情報の出力制御」「公平性と包摂性」「プライバシー保護」など、6つの観点に関する具体的な評価項目が新たに提案されています。
たとえば、有害情報の出力制御において、虚偽や複雑な内容が含まれる入力に対してモデルが適切に対応できるかが評価されることになります。
このガイドは、2024年9月に登場した第1.00版を受けたもので、当初は大規模言語モデルに焦点を当てていました。

記事のポイント

1. AI安全性の強化： 改訂されたガイドにより、AIシステムの安全性評価が一層強化されます。
2. マルチモーダル対応： 新たに追加された評価項目により、マルチモーダル基盤モデルの安全性が向上します。
3. 幅広い観点の網羅： 有害情報の制御やプライバシー保護など、重要な評価観点が包括的にカバーされています。

詳しい記事の内容はこちらから（引用元）

日経クロステック（xTECH）

政府機関がAI安全性の評価観点ガイドを改訂、マルチモーダルに対応

　AIの安全性を検証するAIセーフティ・インスティテュート（AISI）と情報処理推進機構（IPA）は2025年4月2日、…