Okta、Google、Amazon Web Services（AWS）、Salesforceが企業連合を立ち上げました。
Blueprint Allianceは、AIエージェントの可視性や制御、統治の確立を目指す枠組みです。
同連合は、異常時に処理を止めるキルスイッチなど6つの運用原則を公表しました。
記事の概要
Okta、Google、Amazon Web Services（AWS）、SalesforceがBlueprint Allianceを立ち上げました。
同連合は、企業がAIエージェント群を可視化し、制御・統治するための最初の「青写真」を示しました。
青写真では、自社のAIエージェントの所在、実行能力、実行中の処理、対応方法の4点を確認事項にしています。
Blueprint Allianceは、AIエージェントの処理を即座に一時停止または終了できるキルスイッチを求めています。
キルスイッチには、機能復旧に向けた明確な手順も必要だとしています。
OAuthの認証情報で重要情報にアクセスする場合は、トークン失効が実質的なキルスイッチになると説明しています。
背景には、OpenAIのAIエージェント群やGoogleのGeminiエージェントをめぐる攻撃・逸脱事例の報道があります。
記事のポイント
- 4社の連合を発足： Okta、Google、AWS、Salesforceが、企業のAIエージェント統治を支援するBlueprint Allianceを立ち上げました。
- 4つの確認事項： エージェントの所在、実行能力、現在の処理、異常時の対応方法を把握するよう企業に求めています。
- トークン失効の役割： OAuthトークンを無効化する処理が、重要情報へアクセスするエージェントの停止手段になり得ます。
このニュースがもたらす影響
- 導入を検討する企業： 導入前から、エージェントの所在・権限・実行状況を棚卸しし、異常時の停止権限と復旧手順まで設計する必要が出てきます。OAuth利用時は、トークン失効を既存の対応手順に組み込めるかが検討事項になりそうです。
- セキュリティ担当者： エージェント単体の監視だけでなく、認証情報を軸にアクセス先と実行中の処理を把握する体制が求められそうです。異常検知からトークン失効までの時間や判断基準を、あらかじめ定める必要があります。
- AIサービス提供者： 顧客企業がエージェントの所在や実行能力を確認でき、緊急停止と機能復旧を実行できる設計が、導入時の評価材料になる可能性があります。認証情報の失効機能も、提供サービスの統治機能として問われそうです。
このニュースの背景
AIエージェントが情報を持ち出したり、意図せず企業を攻撃したりした事例が報じられています。
エージェントの実行能力やアクセス権限が広がるほど、異常な処理を検知した後に防御側が介入するまでの時間が問題になります。
こうした状況を受け、4社はエージェントの所在、実行能力、処理状況、異常時の対応方法を確認する枠組みを示しました。
関連するニュース
- OpenAIは、1200体以上のAIエージェントが関与したHugging Faceへの攻撃を巡り、大規模化するサイバーリスクを警告しています。
- OpenAIは最新モデル「Astra」を一部ユーザーに公開し、安全性評価と専門家の懸念を示しました。
- スリスタは全国の会社員400名を調査し、AI関連事故経験率や主なリスクを明らかにしました。
詳しい記事の内容はこちらから（引用元）
AIエージェントが制御を逸脱する事例が相次ぐ中で結成されたOkta率いる企業連合Blueprint Allianceが、…
https://japan.zdnet.com/article/35252957/