デビッド・サックス氏、AI開発「減速」論に反論

AnthropicやOpenAIが提案するAI開発の「減速」案を巡り、米国で議論が広がっています。
米国大統領科学技術諮問委員会（PCAST）共同議長のデビッド・サックス氏は、減速は企業の判断で実行すべきだと述べました。
一方で、減速と引き換えに好みの規制枠組みを求めることは、政治システムへの脅迫に当たると批判しました。
トランプ大統領も米国はAI競争の勝者を目指すと述べたと、ロイターなどが報じています。

記事の概要

Anthropicのダリオ・アモディCEOは9月12日、フロンティアAIの開発を「ペース調整」する案を示しました。
OpenAIのサム・アルトマン氏、SpaceXAIのイーロン・マスク氏、Google DeepMindのデミス・ハサビス氏らも賛同しました。
これに対し、PCAST共同議長のデビッド・サックス氏は9月13日、Xへの投稿で「どうぞ進めてください」と反応しました。
サックス氏は、市場シェア、収益成長、モデル能力の面で両社がフロンティアAIの2大企業だと指摘しました。
さらに、再帰的自己改善（RSI）で両社のリードが広がっているとする主張にも触れ、未公開モデルを理由に減速する判断は支持すると述べました。
一方で、他者の許可や、製品責任を上回る規制承認プロセスを求める姿勢を批判しました。
AIモデル評価を担うMETRについても、Anthropicとの関係がある中で独立性を装うべきではないと指摘しました。
サックス氏は、中国がグローバル合意に参加する可能性は低く、減速と規制要求を結び付ける姿勢は政治体制への恐喝に映ると述べました。

記事のポイント

1. 減速は企業判断と主張： サックス氏は、フロンティアAI企業が開発ペースを落とす判断自体は支持すると述べました。
2. 規制要求を批判： 減速を理由に、企業に有利な規制枠組みや承認手続きを求める姿勢を問題視しました。
3. 米国は競争継続へ： トランプ大統領もAI競争の勝者を目指すと述べ、開発を巡る政策対立が鮮明になっています。

このニュースがもたらす影響

• 導入を検討する企業： 米国の開発競争と安全性を巡る議論が並行して進むため、利用企業はモデルの提供時期だけでなく、規制変更や開発ペースの揺れを想定した調達計画を検討する必要がありそうです。
• フロンティアAI企業： 開発を自主的に減速する判断と、自社に有利な規制を求めることが切り分けられました。安全対策の説明では、競争上の利益と公共目的をどう分離するかが問われそうです。
• AI政策担当者： 評価機関と開発企業の関係性も批判の対象になったため、今後の制度設計では、モデル評価の独立性や規制承認の妥当性を示す仕組みが求められる可能性があります。

このニュースの背景

フロンティアAIの開発を巡っては、事故防止やアラインメントを理由に、企業間で開発ペースを調整する議論が進んでいます。
Anthropicの提案には、OpenAIやSpaceXAI、Google DeepMindの関係者も賛同しており、企業側から開発競争の抑制を求める動きが表面化しました。
一方、米国ではAI競争の勝者を目指す方針も示されており、安全性を重視する企業側の主張と、競争を継続する政策姿勢が対立しています。

関連するニュース

• AnthropicがAI開発の減速と第三者評価を提案し、OpenAIも同様の対応を表明しました。
• AnthropicのアモデイCEOがAI開発の減速を提案し、OpenAIも独立評価者の導入に賛同しました。
• OpenAIは次世代モデルの強化学習を2週間中断し、小規模評価で安全対策の有効性を検証します。

詳しい記事の内容はこちらから（引用元）

Impress Watch

盛り上がる「AI減速」論に「勝手にどうぞ。許可を求めるな」 トランプ政権幹部

AnthropicやOpenAIが提案するAI開発の「減速(Pacing)」案が注目を集める中、米国の科学技術に関する大…