ASCII.jp：オープンモデル禁止を訴えたことはない、Anthropic CEO

AnthropicのDario Amodei CEOは7月27日、同社がオープンウェイトモデルの全面禁止を求めているとの見方を否定しました。
同氏は、危険な能力を持たないモデルには公共財としての価値があると説明しました。
一方で、高性能AIの軍事利用やサイバー攻撃などへの悪用を巡り、公開前の安全性評価などを提案しました。

記事の概要

AnthropicのCEOであるDario Amodei氏は7月27日、自社がオープンウェイトモデルの全面禁止を求めているとの見方を明確に否定しました。
同氏は声明で、Anthropicはオープンウェイトモデルそのものの禁止を一度も提唱していないと説明しました。
危険な能力を持たないモデルは、研究者や開発者、企業が計算資源さえあれば利用できる公共財として価値があるとしています。
一方で、権威主義国家が高性能AIを軍事や監視体制の強化に利用する可能性を安全保障上のリスクに挙げました。
高性能AIがサイバー攻撃や生物学的脅威などに悪用されるリスクも示しました。
オープンウェイトモデルは公開後に利用を制限できず、ガードレールを適用しにくい点から、リスクが高まる可能性を認めました。
同氏は、米企業による利用禁止では悪意ある主体への対策にならず、競争制限に終わる可能性があるとしています。
優先政策として、中国への高性能AIチップや半導体製造装置の輸出規制・密輸対策、大規模な蒸留対策、一定能力以上のモデルへの公開前安全性評価義務を提案しました。

記事のポイント

1. 公共財としての価値： Anthropicは、研究者や開発者、企業が計算資源さえあれば利用できるオープンウェイトモデルの価値を認めています。
2. 2つの安全保障リスク： 同氏は、軍事・監視への利用やサイバー攻撃、生物学的脅威への悪用を安全保障上のリスクに挙げました。
3. 3つの政策提案： 輸出規制と密輸対策、大規模な蒸留対策、一定能力以上のモデルへの安全性評価義務を提案しました。

詳しい記事の内容はこちらから（引用元）

ASCII.jp

オープンモデル禁止を訴えたことはない、Anthropic CEO

AIを巡る規制論が活発化する中、AnthropicのCEOであるダリオ・アモデイ氏は7月27日、自社がオープンウェイトモ…