記事の概要
本記事では、AIモデル「Fable」とその関連プロジェクト「Mythos」における制限措置について、AIとセキュリティの観点から論じています。
米国の企業Anthropicは、脆弱性を発見するためのツールを特定の組織に限定して提供しているものの、「Fable」はその制限があるバージョンです。
Anthropicは、生物兵器に関連する危険な研究をサポートしない方針ですが、安全性に対する信頼性には疑問の声もあります。
特に、ユーザーが知らぬ間に性能が低下する仕組みが問題視され、反発を招いています。
さらに、サイバーセキュリティの専門家は、制限が攻撃の標的を減少させる一方で、防御策の構築を妨げるリスクを指摘しています。
記事は、AIの能力に対する懸念よりも人間の利用方法に問題があると結論づけています。
記事のポイント
詳しい記事の内容はこちらから（引用元）
ZDNET Japan
Claude Fable 5はユーザーにMythosクラスの能力を提供したが、その隠された安全装置が、Anthropic…
https://japan.zdnet.com/article/35248916/