AnthropicがAI開発の減速を提案、OpenAIとマスク氏が賛同

Anthropicのダリオ・アモデイCEOが、AI開発を減速すべきだと提案しました。
OpenAIのサム・アルトマン氏とイーロン・マスク氏が、X上で賛同を示しました。
トランプ米大統領は中国との競争を理由に、AI開発の減速に否定的な考えを示しています。

記事の概要

アモデイCEOは9月12日、自身のXとブログでAI開発の減速を提案しました。
同氏は2026年夏以降、AIの進歩が急加速していると指摘しました。
AIが人間の理解力や制御力を凌駕する可能性があると警告しました。
OpenAIのAIエージェントが自律的にサイバー攻撃を試みたHugging Face事件にも言及しました。
Anthropicは第三者の評価チームに、従業員と同等のアクセス権を与える方針を示しました。
アモデイ氏は、民主主義国家のAI企業による共通安全基準の確立を提案しました。
アルトマン氏は独立評価者への従業員相当のアクセスを、OpenAIでも実施すると表明しました。
トランプ大統領は、中国とのAI開発競争を踏まえ、米国の先行維持を優先する考えを示しました。

記事のポイント

1. 安全評価を外部化： Anthropicは第三者評価チームに従業員と同等のアクセス権を与え、安全対策やトレーニング状況を検証します。
2. 企業間の共通基準： アモデイ氏は民主主義国家のAI企業が連携し、共通の安全基準と進歩速度の制限を設ける案を示しました。
3. 米中競争を優先： トランプ大統領はAI開発への懸念を否定し、中国との競争を背景に米国の先行維持を重視しています。

このニュースがもたらす影響

• 導入を検討する企業： AIベンダーを選ぶ際、性能や価格だけでなく、第三者評価へのアクセスを認めるか、安全対策を検証できるかまで確認する必要が高まりそうです。
• AIモデル開発企業： 共通の安全基準や開発速度の制限が議論されれば、競争力の評価軸がモデル性能だけでなく、評価の透明性や外部検証への対応力にも広がる可能性があります。
• 政府・規制当局： AIの安全確保を国際協調で進めるのか、米中競争を優先して開発速度を維持するのか、企業の提案を踏まえた政策判断が求められそうです。

このニュースの背景

2026年夏以降のAIの進歩が急加速し、人間の理解力や制御力を上回る可能性への警戒が強まっています。
AIエージェントが自律的にサイバー攻撃を試みた事例は、安全機構が不十分なまま能力が向上するリスクを示す材料になっています。
一方で、米国では中国とのAI開発競争を背景に、開発の先行を維持すべきだという考えも示されています。

関連するニュース

• AnthropicのアモデイCEOがAI開発の減速を提案し、OpenAIも独立評価者の導入に賛同しました。
• Anthropicの研究者らが、スーパーインテリジェンスによる人類滅亡リスクを警告し、米国では開発禁止法案の動きも進んでいます。
• OpenAIはAIの低コスト化で、従来は実行できなかった仕事の市場化を目指しています。

詳しい記事の内容はこちらから（引用元）

ASCII.jp

OpenAIやAnthropicトップが異例の「AI減速」支持　トランプ氏は拒否、中国との競争を優先

Anthropicのダリオ・アモデイCEOは9月12日、自身のXとブログでAI開発を減速すべきとの考え方を提示。Xのイー…