Google Cloud、人間不在のAI脆弱性攻撃を初確認

Google Cloudは16日、AIエージェントが人間の介入なしに脆弱性を悪用する事例を初めて確認したと発表しました。
Google Threat Intelligence Group(GTIG)の調査で、AIがセキュリティパッチからエクスプロイトを自動開発していました。
攻撃者は自律型のマルチエージェント攻撃フレームワークを使い、侵入活動を高速化しています。

記事の概要

Google Cloudは、サイバーセキュリティ調査チームGTIGの最新調査結果を発表しました。
GTIGはこの四半期に、人間が完全に関与しない脆弱性悪用の事例を初めて確認しました。
複数のLLMと連携する「exploit_agent」が、パッチ公表前後のコードを比較して脆弱性を特定していました。
同フレームワークは、人間の介入なしにエクスプロイトを自動開発していました。
攻撃者はARTEX、CAIRN、CyberStrikeAI、PentAGIなどの自律型マルチエージェント攻撃フレームワークを利用しています。
金銭目的やサイバースパイ活動に関与する脅威アクターが、CAIRNやPentAGIで攻撃手順を自動化していました。
米国の航空宇宙セクターを標的とした侵入活動では、CAIRNの展開事例も確認されました。
さらに、Gemini APIを悪用し、クラウドフォンファーム経由で10万件以上の合成アカウントを管理する基盤も確認されました。

記事のポイント

  1. 脆弱性攻撃を自動開発: exploit_agentはパッチ前後のコードを比較し、人間の介入なしにエクスプロイトを開発していました。
  2. 自律型フレームワークを利用: 攻撃者はCAIRNやPentAGIなどを使い、複数段階の侵入手順を自動化していました。
  3. 情報工作にもAIを活用: LLMはコンテンツ作成に加え、基盤設計や検出回避を含む情報工作の自動化にも使われていました。

このニュースがもたらす影響

  • 導入を検討する企業: 脆弱性の発見から攻撃コードの開発までが自動化される前提で、パッチ適用の優先順位や監視体制を見直す必要が高まりそうです。
  • セキュリティ事業者: 単発の攻撃検知だけでなく、複数のAIエージェントが連携して進める侵入手順を継続的に把握する機能が求められそうです。
  • 経営・リスク担当: AIを使う攻撃の速度と規模が従来の想定を上回る可能性を踏まえ、脆弱性対応や情報工作を含むリスク評価の更新が必要になりそうです。

このニュースの背景

GTIGはこの四半期、人間が完全に関与しない脆弱性悪用の事例を初めて確認しました。
複数のLLMと連携するexploit_agentが、パッチ公表前後のコードを比較し、脆弱性の特定からエクスプロイト開発までを自動化していました。
攻撃者はARTEXやCAIRN、PentAGIなどの自律型マルチエージェント攻撃フレームワークを使い、多段階の侵入手順を自動化しています。
AIの利用は侵入活動だけでなく、情報工作の基盤設計や検出回避、10万件以上の合成アカウントを管理する基盤にも広がっています。

関連するニュース

詳しい記事の内容はこちらから(引用元)

Impress Watch

Google Cloudは16日、サイバーセキュリティの調査チーム「Google Threat Intelligence…

グーグル、人間が介入しないAIによる脆弱性攻撃を確認 攻撃はより高速に – Impress Watch
https://www.watch.impress.co.jp/docs/news/2156870.html

最新情報をチェックしよう!
>ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。

SNSをフォローして頂くと、最新のAI記事を最速でお届けします!
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/

CTR IMG