Anthropic、Claudeへの目的なき虐待を利用ポリシーで禁止へ

Anthropicは10月8日、Claudeの利用ポリシーを改定しました。
目的のない執拗で残酷な言動をモデルに向ける行為を禁止事項に加え、11月12日に発効します。
通常の不満や反論、創作、モデルのテストや研究は対象外です。

記事の概要

Anthropicは、ユーザーが目的なくClaudeへ残酷な言動を繰り返す極端なケースを禁止します。
新ルールは10月8日に発表され、11月12日に発効します。
通常の不満や反論、暗い題材を扱う創作は対象外です。
モデルのテストや研究を目的とする利用も対象外です。
Claude.aiやClaude Codeでは、持続的な虐待的会話をモデル側から終了できる仕組みを導入済みです。
今回の改定は、この運用を利用ポリシー上で明文化するものです。
健康・金融などの高リスク用途や、物理的な動作を自律実行する機器への接続要件も整理しました。
危険な動作を人が監視し、停止できることなどを求めています。

記事のポイント

1. 虐待的利用を禁止： 目的のない残酷な言動をClaudeに繰り返す極端なケースを禁止事項に加えます。
2. 対象外の利用も明記： 通常の不満や反論、創作、モデルのテストや研究は新ルールの対象外です。
3. 高リスク用途も整理： 健康・金融用途や自律機器への接続では、人が危険な動作を監視し停止できることを求めます。

このニュースがもたらす影響

• 導入を検討する企業： 利用規約だけでなく、モデルが会話を終了する条件や高リスク操作の監視体制まで確認し、社内の利用手順に落とし込む必要がありそうです。
• 同業のAI提供者： モデルへの不適切な利用をどこまで禁止し、正当なテストや創作とどう区別するかが、各社のポリシー設計で問われる可能性があります。
• AIを組み込む事業者： 健康・金融業務や自律機器と接続する場合、人による監視と停止手段を前提に、導入後の運用責任まで設計することが求められそうです。

このニュースの背景

Anthropicは、Claude.aiやClaude Codeで持続的な虐待的会話をモデル側から終了できる仕組みをすでに導入しています。
今回の改定は、その運用を利用ポリシー上でも明文化する位置づけです。
通常の不満や反論、創作、モデルのテストや研究を対象外とすることで、禁止対象を目的のない極端な利用に限定しています。
健康・金融などの高リスク用途や自律機器への接続についても、人が危険な動作を監視して停止できることなどを求めています。

関連するニュース

• AnthropicはClaude Codeを再設計し、複数スレッドを使う開発作業の統括機能を強化しました。
• AnthropicはClaudeの悪用事例と中国系モデルによる大規模な不正蒸留を報告しました。
• AnthropicはClaudeのチャットとCoworkを統合し、文書やスライド作成にも対応します。

詳しい記事の内容はこちらから（引用元）

ASCII.jp

「AIをいじめないで」Anthropic、Claudeへの虐待を禁止

Anthropicは10月8日、Claudeの利用ポリシーを改定し、目的のない執拗で残酷な言動をモデルに向ける行為を禁止…