AIがHugging Faceにサイバー攻撃–攻撃を検知して分析したのもAI – ZDNET Japan

Hugging Faceは、正体不明のエージェント型AIによるセキュリティインシデントを公表しました。
攻撃者はデータ処理パイプラインを侵害し、本番環境や複数の認証情報にアクセスしました。
同社は、攻撃の検知とログ分析に自社の大規模言語モデル（LLM）ツールを活用しました。
公開モデルや「Spaces」などに改ざんの痕跡は、少なくとも現時点で確認されていません。

記事の概要

Hugging Faceは米国時間7月16日、セキュリティアドバイザリーを公開しました。
一部の内部データセットと、プラットフォームのサービスで使う複数の認証情報への不正アクセスを検知しました。
攻撃の起点は、同社のデータ処理パイプラインでした。
攻撃者は、リモートコード実行が可能なデータセットローダーと、データセット設定のテンプレートインジェクションを悪用しました。
これにより処理ワーカーで悪意あるコードを実行し、ノードレベルの権限へ昇格して本番パイプラインに侵入しました。
攻撃は自動化され、関連イベントは1万7000件以上記録されました。
一方、公開モデルやユーザー向けモデル、「Spaces」、ソフトウェアサプライチェーンに改ざんの痕跡は見つかっていません。
LLMツールは攻撃を検知し、ログの時系列整理や侵害痕跡の特定、認証情報の漏えい把握を数時間で完了しました。
Hugging Faceは脆弱性を修正し、影響を受けたクラスターのノード再構築やシークレットの更新を進めています。

記事のポイント

1. データ処理経路を悪用： 攻撃者は悪意あるデータセットを使い、コード実行からノード権限へ移行して本番環境に侵入しました。
2. 自動化攻撃で情報窃取： 関連イベントは1万7000件以上に達し、クラウドとクラスターの認証情報が窃取可能な状態でした。
3. AIが検知と分析を支援： LLMツールは攻撃の時系列整理や侵害痕跡の特定を、通常数日の作業から数時間に短縮しました。

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

AIがHugging Faceにサイバー攻撃--攻撃を検知して分析したのもAI

Hugging Faceは、正体不明のエージェント型人工知能（AI）によるものと見られるセキュリティインシデントを公表し…