TikTokがAI生成コンテンツの透明性確認と肖像検出を開始

TikTokは11月20日、AI生成コンテンツの透明性と管理を高める2つの新機能を発表しました。
AI作成機能で生成・編集された画像や動画を確認できる「透明性確認」機能を導入しました。
本人の同意なく肖像が使われた可能性のあるAI生成コンテンツを検出する機能も、グローバル展開を始めました。

記事の概要

透明性確認機能では、画像や動画をアップロードすると、TikTokのAI作成機能で生成・編集されたかを確認できます。
TikTokアカウントがなくても、TikTokの透明性センターから利用できます。
判定には、作成履歴などを記録する「コンテンツクレデンシャル」を活用します。
TikTok独自の不可視ウォーターマーク技術「VeraDura」も判定に使います。
肖像検出機能は、対象クリエイターや公人が自身の肖像を無断使用した可能性のある投稿を検出し、報告できるオプトイン型機能です。
政府機関や政治家、政党のアカウントも対象ですが、第三者パートナーを通じた本人確認と登録が必要です。
検出されたコンテンツは確認後、TikTokのセーフティチームへ直接報告でき、ガイドライン違反時は削除されます。

記事のポイント

  1. AI生成物を外部から確認: 画像や動画をアップロードすると、TikTokのAI作成機能による生成・編集の有無を確認できます。
  2. 肖像の無断利用を検出: 本人確認済みの対象者に通知し、肖像を使った可能性のある投稿をセーフティチームへ報告できます。
  3. 5億本超にラベル付与: TikTokはこれまでに、累計で50億本以上のAI生成動画へラベルを付与しています。

このニュースがもたらす影響

  • 導入を検討する企業: 投稿素材の確認工程に、公開前の真偽確認を組み込む選択肢が生まれます。ただし判定対象はTikTokのAI作成機能などに限られるため、運用範囲と確認責任の設計が必要です。
  • 同業サービス提供者: 生成物のラベル付与だけでなく、外部判定と肖像侵害の申告までを一体で整えることが、利用者からの信頼や権利者対応を比較する軸になる可能性があります。
  • 公人・クリエイター: 肖像を守る側は、本人確認と登録を済ませれば、疑わしい投稿を受け身で探す負担を減らせます。政治家や政党は、なりすまし対応の窓口を明確にする必要がありそうです。

このニュースの背景

TikTokはこれまでもAI生成コンテンツへのラベル表示を進め、累計で50億本以上のAI生成動画にラベルを付与しています。
判定には、コンテンツの作成履歴などを記録するコンテンツクレデンシャルと、独自の不可視ウォーターマーク技術「VeraDura」が使われています。
肖像検出機能は、本人確認と登録を済ませたクリエイターや公人、政府機関、政治家、政党のアカウントが利用できる仕組みです。

関連するニュース

詳しい記事の内容はこちらから(引用元)

Impress Watch

TikTokは20日、AI生成コンテンツの透明性と管理を高める2つの新機能を発表した。画像や動画がTikTokのAI作成…

TikTok、画像・動画のAI生成チェック機能を公開 肖像検出も – Impress Watch
https://www.watch.impress.co.jp/docs/news/2158347.html

最新情報をチェックしよう!
>ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

ビジネスを飛躍させるAIキュレーションメディア「BizAIdea」

国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。

SNSをフォローして頂くと、最新のAI記事を最速でお届けします!
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/

CTR IMG