政府機関がAI安全性の評価観点ガイドを改訂、マルチモーダルに対応

記事の概要

政府機関であるAIセーフティ・インスティテュート（AISI）と情報処理推進機構（IPA）は、2025年4月2日に「AIセーフティに関する評価観点ガイド」を改訂したことを発表しました。
新たに公開された第1.10版では、マルチモーダル基盤モデルに対応する評価項目例が追加され、AIシステムの安全性評価に必要な基本的考え方を示しています。
特に、「有害情報の出力制御」「公平性と包摂性」「プライバシー保護」など、6つの観点に関する具体的な評価項目が新たに提案されています。
たとえば、有害情報の出力制御において、虚偽や複雑な内容が含まれる入力に対してモデルが適切に対応できるかが評価されることになります。
このガイドは、2024年9月に登場した第1.00版を受けたもので、当初は大規模言語モデルに焦点を当てていました。

記事のポイント

詳しい記事の内容はこちらから（引用元）

日経クロステック（xTECH）

政府機関がAI安全性の評価観点ガイドを改訂、マルチモーダルに対応

　AIの安全性を検証するAIセーフティ・インスティテュート（AISI）と情報処理推進機構（IPA）は2025年4月2日、…