Anthropic、Claudeの文章出力に編集後も残る電子透かしを導入

Anthropicは8月14日、AIモデル「Claude」の文章出力に電子透かしを導入すると発表しました。
透かしは利用者に識別できない形で埋め込まれ、文章を軽微に編集しても一部が残る仕組みです。
EUのAI規制法(EU AI Act)への対応を背景に、今後は全世界のClaude出力が対象となります。

記事の概要

Anthropicは、ClaudeのAIモデルが生成する文章に電子透かしを導入します。
同社は8月11日に方針を公表し、8月14日に仕組みの詳細を明らかにしました。
EUでは8月2日から、EU市場でサービスを提供するAI事業者に生成コンテンツの透かしを義務付けています。
Anthropicを含む190社が署名しており、各モデル提供事業者も独自の透かしを導入する予定です。
Claudeでは、Googleが提供するSynthID-Textと同様の仕組みを採用します。
生成時に意味が近く選択の余地がある単語を、鍵と直前の単語列に基づいて選ぶことで検出可能なパターンを残します。
事実中心の文章やコードでは透かしが弱くなる一方、翻訳では全単語をClaudeが選ぶため透かしがかかるとしています。
今後数カ月かけて旧モデルにも対応し、透かし検出APIを提供する予定です。

記事のポイント

  1. 品質への影響: 文章に文字や隠し文字を追加せず、追加トークンも不要です。Anthropicは品質や内容、読みやすさへの実質的な影響はないと説明しています。
  2. 透かしの仕組み: 生成時の単語選択に鍵と直前の単語列を使い、文章のパターンを検出します。軽微な編集では残りますが、全単語の置換で弱まる可能性があります。
  3. 検出APIを提供: 今後、Claudeによる生成・処理の可能性を確認する検出APIを提供します。画像などは対象外とし、C2PAなどの業界標準にも対応する予定です。
  4. 識別情報は含まず: 透かしには個人や組織、チャットを特定する情報を含みません。所有権や著作者を示すものではなく、利用者の権利も変更しないとしています。

このニュースがもたらす影響

  • 導入を検討する企業: Claudeを業務文書や翻訳に使う企業は、検出APIの提供後に、生成物の確認をどの工程で行うかを決める必要がありそうです。軽微な編集と全面改稿で判定の扱いを分ける設計も求められます。
  • AIサービス提供者: 同業のAIサービス提供者は、EU向けに限らず全世界の出力管理を視野に、透かしの有無だけでなく検出手段の整合性を示すことが競争条件になり得ます。
  • コンテンツ審査部門: 生成物の出所を確認する企業やメディアは、透かしの検出結果を著作者や権利の証明と混同せず、文章の種類や編集履歴と組み合わせて判断する運用が必要になりそうです。

このニュースの背景

EU AI Actによって生成コンテンツへの透かしが義務化され、AI事業者にとって出力の出所を示す仕組みが任意の機能ではなくなっています。
190社が署名し、モデル提供各社が独自の透かしを導入する見通しであるため、サービスごとの検出方法や互換性が利用企業の確認事項になりそうです。
一方で、事実中心の文章やコードでは透かしが弱く、全単語の置換で回避される可能性もあるため、透かしだけで生成元を確定できるわけではありません。
検出APIやC2PAへの対応予定は、生成物の確認を個別の目視作業ではなく、業務システムやコンテンツ管理の工程に組み込む方向を示しています。

関連するニュース

詳しい記事の内容はこちらから(引用元)

Impress Watch

Anthropicは、今後「Claude」のAIモデルの出力として「透かし」が入ったテキストを生成すると公表した。欧州の…

Claudeで生成した文章に「電子透かし」導入 編集しても残る – Impress Watch
https://www.watch.impress.co.jp/docs/news/2132925.html

最新情報をチェックしよう!
>ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。

SNSをフォローして頂くと、最新のAI記事を最速でお届けします!
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/

CTR IMG