アメリカの研究者たちは、生成AIがアスキーアートを含んだプロンプトを入力されると、有害なコンテンツを出力することができるという新しい脱獄（ジェイルブレーク）攻撃手法を提案しました。
これは大規模言語モデル（LLM）がアスキーアートを正しく認識できない脆弱性を利用しています。
具体的には、プロンプトの一部をアスキーアートに変換することで、LLMが拒否する可能性のある言葉を視覚的に隠蔽し、攻撃を実行します。
実験では、最先端のLLMに対してこの手法を試し、攻撃成功率が明らかになりました。
この脱獄手法によって、爆弾の作り方やその他の有害なコンテンツがLLMに出力される可能性があります。
米ワシントン大学などに所属する研究者らは、大規模言語モデル（LLM）がアスキーアートを正しく認識できないという脆弱性を利…
国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。
SNSをフォローして頂くと、最新のAI記事を最速でお届けします！
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/