Google Threat Intelligence Group(GTIG)が、AIへの不正アクセスを仲介する「LLMミキサー」の実態を報告しました。
LLMジャッキングで盗まれた認証情報が、ロシア語と中国語の市場で売買されています。
被害企業では、AI利用料が24時間で10万ドルを超えた事例も確認されています。
記事の概要
GTIGは、AIの脅威に関する最新レポート「AI Threat Tracker」第4四半期版を発表しました。
レポートでは、AIサービスや基盤となるプロキシインフラへの不正なアクセス権を販売するサイトを「LLMミキサー」と呼んでいます。
LLMジャッキングは、ユーザー名やパスワード、APIキーなどのAI関連認証情報を盗み出す行為です。
犯罪者は盗んだ認証情報で、大規模な計算処理や悪意のあるAIサービスの運用などを実行できます。
企業データの抽出やトレーニングデータの汚染に加え、被害企業に高額なAI利用料を負わせる可能性もあります。
GTIGが市場の広告を分析したところ、フロンティアモデルだけでなく、ジェイルブレイクモデルへのアクセス権も販売されていました。
企業向けトークンの価格は0.10~25ドルで、APIMartは10万トークンを超えるプロンプトに5倍の価格を設定しています。
Sysdigは被害額が最先端モデルで1日10万ドルを超える場合があると推定し、Mandiantも累計100万ドルの事例を確認しました。
記事のポイント
- 認証情報が違法流通: LLMミキサーは、盗まれたAIの認証情報や不正アクセス権を仲介する違法販売サイトです。
- 利用料が急増する恐れ: Mandiantは、不正利用による請求額が24時間で10万ドルを超えた事例を確認しています。
- 企業の管理が焦点: Ramp AI Indexでは、AI支出の中央値が従業員1人あたり月約16ドルでした。
このニュースがもたらす影響
- AI導入企業: 24時間で10万ドル超、停止までに累計100万ドルの請求例があるため、導入企業はAPIキーの棚卸し、利用上限、異常な支出の即時検知を運用に組み込む必要が高まりそうです。
- 情シス・セキュリティ担当: 盗まれた認証情報が企業データの抽出や悪意あるサービス運用に使われ得るため、AI利用を通常の認証情報管理と同じ監視対象として扱うことが求められそうです。
- AIサービス提供者: フロンティアモデルだけでなくジェイルブレイクモデルへのアクセスも売買されるため、AIサービス提供者には、利用者やプロキシ経由の異常利用を見分ける対策がより重要になりそうです。
このニュースの背景
企業が業務でAIやLLMを使う範囲を広げる一方、モデルへのアクセスに使う認証情報を盗み出すLLMジャッキングが発生しています。
GTIGは、盗まれた認証情報やAIサービスへの不正アクセス権を販売するサイトを「LLMミキサー」と呼んでいます。
ロシア語と中国語の市場では、フロンティアモデルに加えてジェイルブレイクモデルへのアクセスも売買されています。
AI利用料は企業によって差があり、中央値の企業が従業員1人あたり月約16ドルである一方、不正利用では高額な請求につながる事例が確認されています。
関連するニュース
- AI Librariumが東北大学と、社内環境だけで個人情報を検出・マスキングする手法を発表しました。
- OpenAIは、AIエージェントが指示を誤解して安全監視を停止した事例を公表しました。
- NTTとNTT・TCリースは、約150万件の与信データで貸し倒れ予測精度を最大約3割高めるAI技術を確立しました。
詳しい記事の内容はこちらから(引用元)
AIサービスの認証情報を盗み出して不正利用する「LLMジャッキング」が新たな脅威となっている。グーグルは、盗難アカウント…
https://japan.zdnet.com/article/35255132/