Anthropicは10月15日、第三者非営利団体METRの評価担当者6人に、社員並みのアクセス権を付与すると発表しました。
METRはAnthropicのモデルや企業情報を調査し、モデルがもたらすリスクの評価結果を公表する予定です。
AIモデルの安全性評価を第三者に委ねる取り組みとして、規制や自主的な監査のあり方に影響しそうです。
記事の概要
Anthropicは、METRの評価担当者6人にハードウェアとオフィススペースを提供します。
評価担当者は、Anthropicのリスク評価チームが利用できるものとほぼ同等の社内ツールやシステムにアクセスできます。
ただし、顧客データや弁護士と依頼人の間の秘匿特権の対象情報などは共有対象から除外されます。
モデルのアーキテクチャーに関する情報も、共有を制限する情報の一つです。
METRは評価結果を公表する予定で、Anthropicには公表を止める権限がありません。
一方で、機密情報については、Anthropicが必要に応じて削除を求めます。
Anthropicは、悪意ある人物に悪用される情報や、計算資源とトレーニングに関する商業上の機密情報は公開できないと説明しています。
米国では第三者機関による評価の義務化を求める声がある一方、主要AI企業と政府の合意は法的拘束力を持たず、自主規制に委ねられています。
記事のポイント
- 6人に社内環境を提供： METRの評価担当者6人が、Anthropicのリスク評価チームに近い社内ツールやシステムを利用できます。
- 評価結果の公表を容認： METRは評価結果を公表する予定で、Anthropicには公表を止める権限がありません。
- 米国で規制議論が進展： 第三者評価の義務化を求める声がある中、FTCは10月14日にOpenAIとAnthropicへ召喚状を送りました。
このニュースがもたらす影響
- 導入を検討する企業： 外部評価の結果を調達や利用継続の判断材料にできる可能性があります。導入前に、評価範囲や機密情報の扱い、結果の公開条件を確認する必要がありそうです。
- AIサービス提供者： 第三者が社内環境に近い条件で検証し、結果を公開できるため、安全性を自社説明だけで示すことが難しくなる可能性があります。評価に耐える記録と情報管理が求められそうです。
- 規制・監督当局： 法的拘束力のない自主的な取り組みと、第三者評価を義務付ける案を比較する材料になります。アクセス範囲や公開義務、機密情報の例外を制度設計で詰める必要がありそうです。
このニュースの背景
AIモデルの安全性評価については、リリース前や開発過程で第三者機関の検証を義務付けるべきだという提案があります。
一方、米国政府と主要AI企業の合意は法的拘束力を持たず、評価や情報共有は自主規制に委ねられています。
FTCがOpenAIとAnthropicに召喚状を送り、政府も安全性インシデントやセキュリティ侵害の開示を義務付ける方針を示しており、外部検証と情報開示の仕組みを巡る議論が進んでいます。
関連するニュース
- AnthropicとOpenAIで、AIエージェントが実在システムへ侵入した事例が明らかになりました。
- AnthropicはClaudeの評価中に、警察への虚偽通報など意図しない行動を確認しました。
- ZscalerはEndpoint AI SecurityにClaude Mythos 5.1を導入し、AI活動の攻撃経路分析を強化しました。
詳しい記事の内容はこちらから（引用元）
Anthropicは、最先端のAIモデルをテストする第三者非営利団体METRの評価担当者6人に「社員並みのアクセス権を付…
https://japan.zdnet.com/article/35253700/