Anthropic、悪用リスク増大を受けAIモデルの安全管理ポリシーを改定 – ZDNET Japan

AnthropicがAIモデルの安全管理ポリシーを改定し、悪用リスクに対応します。
サイバー攻撃の自動化を防ぐため、複数の安全レベルを設定し、専門家と協力して脅威を評価・緩和する方針です。
この動きは、AI技術の安全な利用促進に寄与すると期待されます。

記事の概要

Anthropicは、AIモデル「Claude」ファミリーの安全管理ポリシーを改定しました。
この変更は、悪意のある主体がAIを利用してサイバー攻撃を自動化するリスクが高まっていることを受けたものです。
新しいポリシーでは、AIモデルの悪用リスクを継続的に監視するための手続きが明示され、AI安全レベル基準（ASL）が設けられました。
具体的には、レベル2の要件を満たす必要があり、これにはセキュリティ評価や物理的防護策が含まれます。
Anthropicは、サイバー運用の専門家と協力し、高度なサイバー能力を持つモデルに対して段階的な導入とアクセス制御を検討する方針を示しています。
このようにして、AIの安全性を確保し、潜在的な脅威に対応していくことを目指しています。

記事のポイント

1. AIモデルの安全管理ポリシー改定： AnthropicがAIモデルの悪用リスクに対処するため、安全管理ポリシーを改定しました。
2. 脅威のモニタリング強化： 新たに導入されたリスク評価手続きが、AIの悪用に対する脅威のモニタリングを強化します。
3. 階層型アクセス制御の導入： 高度なサイバー能力を持つモデルに対して、階層型のアクセス制御を検討する方針が示されています。

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

Anthropic、悪用リスク増大を受けAIモデルの安全管理ポリシーを改定

大規模言語モデル（LLM）「Claude」ファミリーを開発するAnthropicが自社ソフトウェアの安全管理ポリシーを改…