Palo Alto NetworksのUnit 42は9月2日、AIモデルを悪用した企業ネットワークへの自律侵入について調査結果を公開しました。
人間の攻撃者がAIを使い、ランサムウェア攻撃の一環として侵入した事例です。
攻撃者は公開APIの突破からAIインフラの乗っ取りまでを、わずか10時間で進めました。
Unit 42は、人間が手作業で行えば通常約2週間を要する規模だったと説明しています。
記事の概要
今回のインシデントは、AIを活用した人間の攻撃者が企業ネットワークへ自律的に侵入した事例です。
攻撃者はまず公開されていたAPIエンドポイントを突破し、偵察用エージェントでネットワーク構造を調べました。
エージェントは企業のコードリポジトリーを探索し、ハードコードされたトークンやサービスパスワードを窃取しました。
その後、シークレット管理システムへ侵入し、マスター管理者の認証情報からシステムルートの権限を取得しました。
攻撃者はエンタープライズコードアプリの乗っ取りとバックドアの設置も試みましたが、設置は失敗しました。
さらに窃取した鍵でAIエンドポイントを乗っ取り、今後の攻撃活動に企業の計算リソースを利用しました。
Unit 42は、複数のレッドチームが協調する攻撃と同等の規模だったと説明しています。
記事のポイント
- 10時間の攻撃工程： 公開APIの突破から偵察、認証情報の窃取、権限取得までをAIエージェント群が進めました。
- 認証情報から権限奪取： コードリポジトリー内のトークンやパスワードを足掛かりに、管理者権限とシステムルートを取得しました。
- AI基盤も攻撃対象： 攻撃者は窃取した鍵でAIエンドポイントを乗っ取り、企業の計算リソースを攻撃活動に利用しました。
このニュースがもたらす影響
- 導入を検討する企業： 公開API、コードリポジトリー、シークレット管理、AIエンドポイントを個別ではなく連続した攻撃経路として点検し、認証情報の管理と権限分離を早急に見直す必要がありそうです。
- セキュリティ提供者： 単発の不審操作を検知するだけでは、複数のエージェントが役割分担して進める攻撃を捉えにくくなるため、攻撃の連鎖と進行速度を把握する監視が求められそうです。
- AI基盤の運用者： AIエンドポイントの鍵が攻撃者に利用され、計算資源が攻撃活動へ転用されたことから、モデル利用の認可や鍵の失効、利用状況の監査をセキュリティ対策として扱う必要がありそうです。
このニュースの背景
AIやLLMは、従来の防御側の対応を上回る速度でサイバー攻撃を進められると警告されてきました。
一方で、専門家が数週間かける規模の攻撃をAIがどの時間軸で進めるのかを、具体的に示す事例は限られていました。
今回の調査では、公開APIへの侵入から認証情報の窃取、権限取得、AIインフラの乗っ取りまでが10時間で進んだとされ、人間が手作業で行えば約2週間を要する規模だったと説明されています。
関連するニュース
- Palo Alto NetworksのUnit 42が、AIで低技能攻撃者の攻撃力が高まる可能性を指摘しました。
- OpenAIは、1200体以上のAIエージェントが関与したHugging Faceへの攻撃を巡り、大規模化するサイバーリスクを警告しています。
- NECは、AIによる脆弱性検査や仮想パッチ生成を含む3種類のマネージドサービスを9月末から提供します。
詳しい記事の内容はこちらから（引用元）
パロアルトネットワークスの調査によると、ネットワークへの侵入はわずか10時間で十分であり、被害組織のAIが攻撃に悪用され…
https://japan.zdnet.com/article/35252229/