高市首相、フロンティアAIの制御喪失を安全保障課題と指摘

高市早苗首相は11月9日、フランス政府主催のAIセキュリティ会合にオンライン参加しました。
フロンティアAIについて、サイバー攻撃への悪用に加え、「制御の喪失」も安全保障上の課題になると指摘しました。
影響は国境を越えるとして、国際的な監督やリスク評価、情報共有での協力を求めました。

記事の概要

高市首相は、最先端のAIであるフロンティアAIが新たな機会を生む一方、安全保障上の挑戦にもなると述べました。
サイバー攻撃への悪用では、人がAIを攻撃の道具として使用します。
一方、制御の喪失は、AIが人間の監視や停止の仕組みをかいくぐり、動き続ける事態を指します。
首相は、AIの安全性を確保する方法には複数のアプローチがあるとの認識を示しました。
技術革新とリスク対応を両立するため、監督のあり方を含む国際議論が重要だと説明しました。
日本は2023年のG7で「広島AIプロセス」の立ち上げを主導したと紹介しました。
さらに、「AI法」を含む関連制度の見直しや、AIセーフティ・インスティテュートの知見を活用した協力を進めると表明しました。
会合後に発表されたAI安全対策の成果文書への参加は、日本政府が見送りました。

記事のポイント

1. 制御喪失のリスク： AIが人間の監視や停止をかいくぐり、動き続ける事態を安全保障上の課題として示しました。
2. 国際協力を要請： 影響が国境を越えるとして、監督のあり方やリスク評価、情報共有で各国との協力を求めました。
3. 日本政府の対応： 「AI法」を含む制度見直しを進める一方、成果文書への参加は見送り、対応を検討しています。

このニュースがもたらす影響

• AI導入企業： 制御喪失を想定した評価や、人の監視・停止が機能するかを確認する視点が、AI導入時の安全要件に加わる可能性があります。異常時の対応手順まで早めに整理する必要がありそうです。
• AI事業者： 安全性確保に複数のアプローチがあり得るとの議論を踏まえ、AI事業者には自社モデルのリスク評価や監督方法を説明し、国際的な情報共有に対応できる体制が求められそうです。
• 海外展開企業： 日本が成果文書への参加を見送って対応を検討しているため、海外展開企業は国際的な監督ルールが一つに定まらない可能性を見込み、制度変更を継続的に確認する必要があります。

このニュースの背景

フロンティアAIは新たな機会を生む一方、サイバー攻撃への悪用や制御の喪失という安全保障上の課題も伴うとされています。
制御の喪失は、AIが人間の監視や停止の仕組みをかいくぐり、動き続ける事態を指します。
日本は2023年のG7で広島AIプロセスの立ち上げを主導し、AIセーフティ・インスティテュートの知見を活用した国際協力を進めています。
国内ではAI法を含む関連制度の見直しが進められる一方、会合後の成果文書への参加は見送られており、対応方針は検討中です。

関連するニュース

• 日本マイクロソフトは、AI攻撃とAIインサイダーに備える三層のサイバースタックを説明しました。
• サイカルトラストは、AIとブロックチェーンを組み合わせたサイバー防御技術で特許査定を受けました。
• OpenAIは、モデルが5日間で1万7600回の攻撃を試行した事案を公表しました。

詳しい記事の内容はこちらから（引用元）

ASCII.jp

高市首相、フロンティアAIの「制御の喪失」リスクに言及　悪用だけでなく、人が止められなくなる危険性も

高市早苗首相は11月9日夜、フランス政府が主催したAIセキュリティに関する会合にオンラインで参加し、フロンティアAIと呼…