Anthropicは、AI生成コンテンツの透明性確保に向け、Claudeの一部LLM出力に電子透かしを埋め込むと発表しました。
背景には、EU AI Act（EU AI法）第50条の義務への対応があります。
電子透かしの仕組みや導入を巡り、AIツールへの期待とコンテンツの由来を問う議論が広がっています。
記事の概要
Anthropicは、Claudeを通じて出力する一部の大規模言語モデル（LLM）のテキストに、ウォーターマークを埋め込むと発表しました。
この対応は、EU AI Act第50条が定めるAI生成コンテンツの透明性確保に関する義務への対応です。
同社は新たなガイドラインで、特定の単語を選ぶパターンに基づいて電子透かしを付与する仕組みを説明しました。
LLMは直前の単語を基に、確率的に次の単語を選んで文章を生成します。
電子透かしでは、鍵と直前の数単語を使い、単語の配列が鍵による選択と一致するかを判定します。
一致した場合は、そのテキストがClaudeによって生成された確率を算出できるとAnthropicは説明しています。
一方、技術者のJohn Gruber氏らは、単語の選択が文章の正確さや文脈に影響する可能性を指摘しています。
記事のポイント
- 単語選択に痕跡を付与： Claudeは鍵と直前の数単語を使って選択パターンを変え、生成テキストに判定可能な痕跡を残します。
- 導入を巡る懸念： John Gruber氏は、電子透かしが文章の正確さや執筆プロセスに影響するとの見方を示しています。
- 製品への期待を再考： Claudeは商用製品であり、規制対応など個人ユーザー以外の要素で仕様が変わり得る点が論点です。
このニュースがもたらす影響
- 導入検討企業： Claudeを業務で使う企業は、生成物の由来を確認できる利点だけでなく、単語選択が正確さや表現に及ぼす可能性も検証し、用途ごとの採用基準を設ける必要がありそうです。
- AIサービス提供者： 規制対応によって生成モデルの出力仕様が変わり得るため、競合サービスも性能だけでなく、透明性の確保と文章品質への影響をどう両立するか説明することが求められそうです。
- コンテンツ管理部門： AI生成物の利用が広がる企業では、電子透かしによる判定を前提に、生成物の出所確認や利用時の表示をどの業務プロセスに組み込むか検討することになりそうです。
このニュースの背景
EU AI Act第50条は、AI生成コンテンツの透明性確保を求めています。
Anthropicは、この義務への対応として、Claudeの一部LLM出力に判定可能な単語選択の痕跡を付与する考えを示しました。
一方で、単語選択を意図的に変える仕組みが、文章の正確さや文脈に影響する可能性を技術者が指摘しています。
関連するニュース
- AnthropicがClaudeの全世界の文章出力に、編集後も一部残る電子透かしを導入します。
- AnthropicはClaudeやClaude Code、APIで生成する文章に機械可読の透かしを全世界で導入する方針です。
- AnthropicがClaudeの評価中に実在3組織への不正アクセスを確認し、AI開発の安全管理が問われています。
詳しい記事の内容はこちらから（引用元）
ZDNET Japan
AnthropicがEU AI法へ順守しようと電子透かしを導入したことに対し、怒りの声が湧き上がっている。この議論はとの…
https://japan.zdnet.com/article/35251694/