Anthropic、Claude悪用の阻止事例を報告　国家攻撃や蒸留を指摘

Anthropicは10日（米国時間）、AIの悪用事例をまとめたレポートを公開しました。
2025年12月から2026年8月に阻止したClaudeの悪用として、サイバー攻撃や影響工作、兵器利用などを報告しました。
中国系モデルによる大規模な不正蒸留も指摘し、7社による攻撃を特定・遮断したと説明しています。

記事の概要

レポートでは、Claude Haiku、Sonnet、Opusなどを使った「注目すべき斬新な脅威活動」を紹介しています。
サイバー攻撃では、偵察やツール開発、データ処理、悪用までAIが支援し、少人数で国家レベルの攻撃が可能になったとしています。
ロシアによるウクライナ・欧州の政府や軍、外交機関への攻撃では、DNSハイジャックやWhatsApp乗っ取りなどを確認しました。
中央アフリカやフランス、マレーシアを対象にした影響工作では、視聴者を獲得する前に検知・遮断した事例も報告しています。
兵器利用では、イエメンで誘導ロケットの制御ソフトをClaude Codeで開発し、実弾テストを行った事例を確認しました。
中国系モデルによる蒸留では、AlibabaのQwenが5〜7月に1億5100万件超のやり取りを行ったとしています。
Anthropicは、Fable 5以降で不正抽出の検知器を強化し、非対応地域からの不審なアクセスには本人確認を求めています。

記事のポイント

1. 国家レベル攻撃の支援： AIが偵察から攻撃後の分析まで支援し、少人数・低リソースでも国家レベルの作戦が可能になったと報告しています。
2. 中国系モデルの蒸留： AlibabaやMoonshotなどによる大規模な不正利用を指摘し、7社の攻撃を特定・遮断したと説明しています。
3. 不正抽出への対策： Anthropicは不正抽出を検知する分類器を強化し、非対応地域からのアクセスに本人確認を導入しています。

このニュースがもたらす影響

• AI導入企業： 自社の防御では、AIによる偵察から侵入後の分析までを一連の攻撃として想定し、少人数の攻撃者にも対応できる監視と演習を早期に見直す必要がありそうです。
• AIモデル提供者： モデルの安全対策だけでなく、応答の大規模な抽出や不審な地域・アカウント経由の利用まで把握する運用が、提供継続の条件として重くなっていく可能性があります。
• セキュリティ担当者： AIが攻撃や兵器開発など複数の工程に関与し得る以上、従来の用途別管理だけでは不十分となり、利用目的・アクセス経路・出力の組み合わせを確認する体制が求められそうです。

このニュースの背景

Anthropicは、2025年12月から2026年8月に阻止したClaudeの悪用事例を報告しています。
報告対象には、サイバー攻撃や影響工作、監視、兵器・生物学的悪用が含まれています。
サイバー攻撃では、偵察やツール開発、データ処理、悪用までAIが支援し、少人数で国家レベルの作戦が可能になったと説明しています。
また、Claudeの応答を使った大規模な不正蒸留を指摘し、Anthropicは検知器の強化や非対応地域からの不審なアクセスへの本人確認を進めています。

関連するニュース

• AnthropicのアモデイCEOがAI開発の減速を提案し、OpenAIも独立評価者の導入に賛同しました。
• Anthropicは、AIエージェントによる複数の物理デバイス操作を可能にする標準仕様MHSを公開しました。
• 各国機関の提言はフロンティアAI時代にも基本対策と経営主導を求めています。

詳しい記事の内容はこちらから（引用元）

Impress Watch

アンソロピック、「AI悪用」レポート　国家による影響工作や中国AIの蒸留を非難

Anthropic(アンソロピック)は10日(米国時間)、AIの悪用についてまとめたレポートを公開した。サイバー攻撃や、…