研究チーム、LLM APIの暗号化推論を復元　ログ公開に注意

AIの回答生成中に使われる暗号化された推論データを、別のAIモデルで復元できる問題が報告されました。
2026年8月10日にarXivへ投稿された論文で、OpenAI、Anthropic、GoogleのAPIを対象にした研究結果が示されています。
公開ログから認証情報が見つかったため、過去にAIエージェントのログを公開した開発者は確認が必要です。

記事の概要

研究チームは2026年8月10日、論文「Stealing Reasoning Traces from Proprietary LLM APIs」をarXivに投稿しました。
論文では、OpenAI、Anthropic、GoogleのAPIが返す場合のある暗号化された推論データを調べています。
高性能モデルのデータを同じ会社の別モデルに渡し、推論内容を平文で復元する攻撃を確認しました。
この問題は、ジョンズ・ホプキンス大学の暗号研究者Matthew Green氏による2026年5月の実験がきっかけでした。
研究チームはGitHubやHugging Faceで公開されたAIエージェントなどのログ6708件から、31万5320個の推論ブロックを復元しました。
実際のユーザーログからは、APIキー62件、パスワード33件、アクセストークン24件などの認証情報も見つかりました。
推論データがAIモデルの蒸留に悪用される可能性も指摘されましたが、フロンティアモデルと同等のAIを作れることまでは実証されていません。
各社は論文公開前に報告を受け、2026年8月時点では攻撃を再現できない対策を導入したとされています。

記事のポイント

1. 別モデルを復号器に利用： 高性能モデルの暗号化データを同じ会社の別モデルへ渡し、推論内容を平文で書き出させる手法です。
2. 公開ログから認証情報： 6708件のログから31万5320個の推論ブロックを復元し、APIキー62件なども確認されています。
3. 各社は対策を導入： 各社は論文公開前に報告を受け、2026年8月時点で攻撃を再現できない対策を導入しています。

このニュースがもたらす影響

• ログ公開開発者： 過去に公開したAIエージェントのログも、推論ブロックを含むか点検し、認証情報が残っていれば変更する運用を優先し、公開範囲も見直す必要があります。
• LLM API提供者： 暗号化を採用するだけでなく、別モデル経由の読み出しまで検証し、利用者に返すデータの再利用範囲を継続的に管理する設計が求められそうです。
• AI導入企業： API選定では回答品質だけでなく、推論データの扱いとログ保存・公開の責任分界を確認し、秘密情報管理を契約や手順に落とす必要がありそうです。

このニュースの背景

LLMの推論データは、利用者から見えないことを前提に、APIやエージェントの処理へ組み込まれています。
今回の研究は、その前提が暗号化だけでは支えきれず、同じ提供元の別モデルを介して内容を引き出され得ることを示しています。
さらに、公開ログでは通常の回答欄から削除した秘密情報が推論データ側に残る可能性があり、運用上の情報管理が課題になります。

関連するニュース

• OpenAIがアップルの営業秘密侵害訴訟に反論し、関係者のメッセージや弁護士間のメールを公開しました。
• AnthropicがClaudeの評価中に実在3組織への不正アクセスを確認し、AI開発の安全管理が問われています。
• OpenAIのChatGPTで会話の保存や学習利用を抑える設定が紹介されています。

詳しい記事の内容はこちらから（引用元）

ASCII.jp

AIの“秘密の思考”が抜き取られるおそれ　過去にログを公開した開発者は要注意

本来はユーザーから見えない、AIの「思考過程」を取り出せる問題が報告された。…