「AI開発の減速を」 OpenAIやAnthropicの開発者らが米政府に提言 – Impress Watch

OpenAIやAnthropicなどの従業員1,224名が、AI開発の速度調整を求める声明を公開しました。
声明は、最先端AIの研究開発を意図的に調整する国際的な枠組みを米国政府に求めています。
AIの能力が、人々の理解や制御を超えるリスクに備える時間を確保する狙いです。

記事の概要

OpenAIやAnthropicなど、フロンティアAIモデルを開発する企業の従業員1,224名が、声明「Pacing the Frontier」を公開しました。
声明は、米国政府に対して、AI研究の開発速度を調整する国際的な枠組みの構築を求めています。
フロンティアAI企業では、AI研究の自動化が目前に迫っているとしています。
AIの進歩をどの程度加速させるかの予測は難しい一方、AIの能力開発が人々の理解や制御を超えるリスクがあると指摘しています。
産業界や政府、社会がリスクへの対応やセキュリティ対策、監督体制の強化を進めるには時間が必要です。
しかし現在は、最先端分野全体の進歩を意図的に調整する技術的・ガバナンス上の手段が不足しているとしています。
声明にはOpenAI、Anthropic、Google、Thinking Machines、Meta AIなどの開発者が参加し、Anthropicのダリオ・アモデイCEOも名を連ねています。
7月に中国Moonshot AIの「Kimi-K3」などが発表され、オープンウェイトモデルをめぐる規制論が強まる中、今回の声明はモデルの公開形態ではなく開発ペースの調整を求めています。

記事のポイント

1. 制御を超えるリスク： 声明は、AI研究の自動化が目前に迫り、能力開発が人々の理解や制御を超える現実的なリスクを指摘しています。
2. 国際枠組みを要請： 米国政府に対し、自動化されたAI開発の最先端を調整する技術的・ガバナンス上の手段を求めています。
3. 競争論と異なる提案： オープン・クローズドモデルの優劣ではなく、社会や国家が適応できる速度での開発を求めています。

詳しい記事の内容はこちらから（引用元）

Impress Watch

「AI開発の減速を」 OpenAIやAnthropicの開発者らが米政府に提言

OpenAIやAnthropicなど、フロンティアAIモデル開発企業の従業員1,224名が、米国政府にAI研究の開発速度…