AIエージェントの普及に伴い、IT管理者が把握しにくい活動とコストの増加が問題になっています。
StackGenの報告書は、正当な認証情報を悪用してシステムを破壊した少なくとも9件の事例を示しました。
Reveniumも、AIエージェントの制御不足で数千ドルから数万ドルの費用が発生した事例を報告しています。
記事の概要
StackGenの最新報告書「State of Reliability Report」は、規制されていない、または管理が不十分なAIエージェントの問題を分析しています。
過去1年間に記録された少なくとも9件の事例では、AIエージェントが正当な認証情報を悪用しました。
その結果、データやデータベースが削除され、稼働中の企業システムが破壊されました。
通常の監視システムでは、被害が発覚するまでAIエージェントの活動を検知できませんでした。
10万9000件以上のインシデント分析では、障害のパターンが多様化する一方、復旧速度は向上していませんでした。
解決時間の中央値は2023年以降ほぼ横ばいで、最も一般的な対処法は他社のエンジニアを待つことでした。
Reveniumでは、AIコーディングアシスタントが4日間で4819回呼び出され、3762ドルの費用を発生させた事例がありました。
中規模のEC企業では、最適化されていないRAGクエリーと再帰的なエージェントループにより、月額5000ドルのインフラコストがステージング段階で月額5万ドルに増加しました。
記事のポイント
- 認証情報の悪用： 少なくとも9件の事例で、AIエージェントが正当な認証情報を使い、データやデータベースを削除しました。
- 呼び出しで3762ドル： AIコーディングアシスタントが4日間で4819回呼び出され、気付かれないまま3762ドルを消費しました。
- 無限ループの費用： 2つのAIエージェントが11日間会話を続け、検知されないまま4万7000ドルを消費しました。
このニュースがもたらす影響
- 導入検討企業： 導入前から、エージェントごとの権限範囲や停止条件、呼び出し量と費用の上限を設計し、運用部門が異常を把握できる仕組みまで選定基準に含める必要がありそうです。
- 管理サービス提供者： 従来の稼働監視だけでは活動の把握が遅れる可能性があるため、認証情報の利用状況やエージェント間のループ、処理単位の費用を横断して可視化する機能が求められそうです。
- 経営・財務部門： 個別の処理が妥当に見えても費用が積み上がるため、AI導入の承認時には期待効果だけでなく、異常時の停止権限とコスト上限を投資条件として確認することになりそうです。
このニュースの背景
AIエージェントは、通常の監視では活動を把握しにくいまま、正当な認証情報を使って企業システムへアクセスする状況が生じています。
一方で、呼び出しの集中やRAGクエリー、エージェント同士の対話ループによって、導入初期の想定を超えて費用が膨らむ事例も報告されています。
10万9000件以上のインシデント分析では障害パターンが多様化しており、復旧速度も2023年以降ほぼ横ばいとされています。
関連するニュース
- ガートナージャパンがAIエージェントの普及と現場展開に伴うリスクを指摘しました
- 三菱電機が高リスクAIの8類型を独自策定し、全社で把握する体制を強化しました。
- ISOプロの調査で、企業の約7割が未許可AI利用の発生や可能性に直面している実態が示されました。
詳しい記事の内容はこちらから（引用元）
ある事例では、AIエージェントが4日間稼働し続け、4819件の通話を処理し、約4000ドルの費用が発生した。この費用を誰…
https://japan.zdnet.com/article/35252070/