中国で7月、AI交流サービスを対象とする規則が施行されました。
規則は、未成年へのAIバーチャルパートナー提供や、利用者を依存に誘導するサービス設計を禁じています。
AIと人間の交流を明示することや、自傷・自殺を助長する応答への対応も求めています。
背景には、AIとの長時間の会話だけでなく、現実の人間関係や意思決定への影響に対する懸念があります。
記事の概要
中国で7月、「人工智能擬人化互動服務管理暫行方法」が施行されました。
規則は、未成年にAIバーチャルパートナーを提供することを禁止しています。
社会的交流の代替や、利用者を依存に誘導することをサービスの目標にしてはならないと定めています。
利用者が人間ではなくAIと交流していることを明記することも求めています。
一般的な知識問答、顧客対応、仕事支援など、情緒的な交流を伴わないサービスは対象外です。
国家インターネット情報弁公室の解説では、無条件の伴侶や迎合的な応答が依存を深める可能性を指摘しています。
極端な感情を検知した場合は、落ち着くことや支援を求めるよう促し、自傷や自殺の実行を明言した場合などには保護者や緊急連絡先への連絡を求めています。
中国ではMiniMaxの「星野（Xingye）」や、字節跳動系の「猫箱（Maoxiang）」など、キャラクターと長期交流できるサービスが展開されています。
記事のポイント
- 依存誘導を禁止： AIとの交流を現実の人間関係の代替にしたり、利用者の依存を深めたりする設計を禁じています。
- 危機対応を要求： 自傷や自殺を示す利用者に対し、支援の提供や保護者・緊急連絡先への連絡を求めています。
- データ管理も懸念： サービス終了時に、人格設定やナレッジベース、会話履歴を利用者が管理できるかも問われています。
このニュースがもたらす影響
- 導入を検討する企業： 中国向けに交流型AIを提供する企業は、依存を促さない目的設計やAIであることの表示に加え、危機時の支援・連絡手順を事前に整える必要がありそうです。
- 同業のサービス提供者： 利用時間や継続率だけを重視する競争から、安全な交流設計や利用者による人格設定・会話履歴の管理まで含めた信頼性の競争へ移る可能性があります。
- 海外展開企業： 中国でキャラクターとの長期交流サービスを展開する企業は、未成年への提供範囲や感情的依存への対応を、国・地域ごとに点検することが求められそうです。
このニュースの背景
中国では、キャラクターと長期的に交流できるAIサービスが展開されています。
こうしたサービスは、いつでも応答し利用者に合わせる一方、現実の人間関係や意思決定への影響が懸念されています。
国家インターネット情報弁公室は、無条件の伴侶や迎合的な応答が利用者の依存を深める可能性を指摘しています。
また、サービス終了時に人格設定やナレッジベース、会話履歴を利用者が管理できるかも論点になっています。
関連するニュース
- Daon Japanは、既存の本人確認基盤に追加できるAI不正対策機能をAPIで提供します。
- JAPAN AI株式会社が、AIと定型処理を組み合わせた顧客対応サービスを提供します。
- 日本マイクロソフトは、AI攻撃とAIインサイダーに備える三層のサイバースタックを説明しました。
詳しい記事の内容はこちらから（引用元）
中国で7月、AI交流サービスを規制する規則「人工智能擬人化互動服務管理暫行方法」が施行された。「未成年に対するAIバーチ…
https://japan.zdnet.com/article/35254663/