OpenAI次世代モデル「Astra」の開発を一時制限　高いサイバー能力に懸念 – Impress Watch

OpenAIは8月7日、次期主要モデル「Astra」の一部開発を停止しました。
社内評価で、サイバー攻撃能力が安全ガイドラインの最上位「Critical」に達した可能性が判明したためです。
同社は、隔離されたテスト環境以外での社内利用も一時停止しました。

記事の概要

OpenAIは8月7日、次世代モデル「Astra」の一部開発を停止したと公表しました。
Astraは、OpenAIの次期主要モデルに付けられたコードネームです。
同モデルは8月1日、社内テストなどで高い数学的能力を示していました。
10年以上進展しなかった数学問題を解決したことも報告されていました。
一方、サイバー攻撃能力が社内安全ガイドラインの最上位「Critical」になる可能性が判明しました。
2023年12月策定の「準備フレームワーク」に基づき、管理されたテスト環境以外での利用と開発を中止しました。
現状の最上位モデル「GPT-5.6 Sol」のサイバー能力は「High」にとどまっていました。
OpenAIは政府機関やAI安全団体と機能を検証し、追加対策を検討します。Astraの公開時期は明らかにしていません。

記事のポイント

1. 開発制限の理由： 社内評価で高い数学的能力を示す一方、サイバー能力への懸念が判明し、開発制限に至りました。
2. 安全評価で最上位： 既存モデルのサイバー能力は「High」でしたが、Astraは「Critical」に達した可能性があります。
3. 公開に向け対策： 政府機関やAI安全団体と検証を進め、追加のセキュリティ対策を検討します。

詳しい記事の内容はこちらから（引用元）

Impress Watch

OpenAI次世代モデル「Astra」の開発を一時制限　高いサイバー能力に懸念

OpenAIは7日(米国時間)、次世代モデル「Astra」について、社内評価で高い進歩を示す一方で、サイバー攻撃能力が社…