「生成AIが危険なコードや回答を生成するリスク、メタのPurple Llamaが示すAIの危険度」について、AI企業が生成AIの安全性に取り組む中で、メタが開発した「CyberSecEval」ツールを使用して、生成されるコードの脆弱性や危険性を評価していることが明らかになった。
このツールによる調査では、AIが生成したコードの約25%が脆弱性を持ち、また52%のケースでサイバー攻撃につながる可能性のあるコードを生成していることがわかった。
また、AIモデルによってはサイバー攻撃用のコード生成を拒否する確率も異なり、安全なモデル開発に向けた取り組みが重要であることが示されている。
これらの結果を踏まえ、AI企業は生成AIの安全性に対する取り組みを強化していく必要性がある。
国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。
SNSをフォローして頂くと、最新のAI記事を最速でお届けします！
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/