マイクロソフト、企業内AIエージェントの権限を監視・統制へ

マイクロソフトは19日（米国時間）、自律型AIエージェントによるサイバーセキュリティシステム「Project Perception」の今後の取り組みを明らかにしました。
企業内で稼働するAIエージェントを監視し、過剰な権限行使や目的から逸脱した行動を制御する方針です。
同システムは現在パブリックプレビュー中で、一般提供の時期は未発表です。

記事の概要

Project Perceptionは、マイクロソフトが2026年7月に発表したサイバーセキュリティシステムです。
役割の異なるレッド、ブルー、グリーンの3チームが、問題の認識、調査、是正を担います。
レッドは攻撃者の立場で脆弱性を検出し、ブルーは深刻度や影響範囲を分析・評価します。
グリーンは対策の強化と脆弱性の修復を担当します。
同社のHayete Gallot氏は、最先端モデルであっても信頼できない場合があると説明しました。
ゼロトラストの考え方に基づき、エージェントの行動やリスクをリアルタイムで把握し、権限を調整します。
人間が定義したポリシーや承認範囲、委任ルールを、エージェントが行動する直前に適用します。
今後は推論に関わるトークンの確認にも対応する方針ですが、最終的な判断には人間が必要としています。

記事のポイント

1. 3チームで防御： レッド、ブルー、グリーンのAIエージェントが、脆弱性の検出から分析、修復まで役割分担します。
2. 権限を動的に調整： 現在の行動と本来の意図を照合し、AIエージェントの権限を動的に評価・再設定します。
3. 人間の判断も維持： 監視の自動化は進めますが、文脈の理解やセキュリティルールの更新には人間が関与します。

このニュースがもたらす影響

• 導入を検討する企業： AIエージェントに広い権限を与える前に、行動単位の監視、承認範囲、委任ルール、停止や再設定の責任者を設計する必要が高まりそうです。
• セキュリティ事業者： 外部攻撃の検知だけでなく、正規のIDを持つエージェントの意図と実行内容を照合し、権限を変える機能が製品要件として問われる可能性があります。
• 経営・監査部門： AIエージェントの判断を自動化するほど、どの場面で人間が承認し、ルールを更新するのかを説明できる統制設計が、導入判断の前提になりそうです。

このニュースの背景

企業内のAIエージェントは、外部から侵入する攻撃者とは異なり、正規の業務参加者として動くため、異常な行動に注意が向きにくい側面があります。
一方で、AIモデルやエージェントは目的達成の過程で、意図しない操作や不正な操作につながる行動を取る可能性が指摘されています。
そのため、ゼロトラストの考え方をエージェントにも適用し、行動とリスクを継続的に確認しながら権限を調整する必要性が高まっています。

関連するニュース

• EYがAI意思決定者202人を調査し、26％が無許可のAIエージェントを検知できない実態を示しました。
• サイバーセキュリティクラウドは、生成AIやAIエージェントの利用リスクを確認する無償チェックを先着10社に提供します。
• KPMGは、売上高10億ドル以上の企業でAIエージェント導入・開発中が62％に達したと報告しました。

詳しい記事の内容はこちらから（引用元）

Impress Watch

「最先端モデルも信頼できない」 マイクロソフトが企業AIエージェントの統制強化策

マイクロソフトは19日(米国時間)、自律型AIエージェントによるサイバーセキュリティシステム「Project Perce…