人工知能（AI）開発企業のAnthropicが、大規模言語モデル（LLM）を利用した攻撃手法「メニーショット・ジェイルブレイキング」について調査結果を公表しました。
メニーショット・ジェイルブレイキングは、大量のテキストを使ってチャットAIの安全装置を突破する攻撃手法であり、AIが不適切な回答をする可能性が高まることが指摘されました。
この攻撃手法に対する対策として、プロンプトの分類や変更が有効であり、実験では成功率が低下することが確認されました。
Anthropicは競合企業の研究者にも情報を共有し、攻撃の緩和策を実装しています。
生成AI「Claude」を開発するAnthropicは4月3日、大規模言語モデル（LLM）から問題のある回答を引き出す攻…
国内外の最新AIに関する記事やサービスリリース情報を、どこよりも早くまとめてお届けします。
日々BizAIdeaに目を通すだけでAIの最新情報を手軽にキャッチアップでき、
AIの進化スピードをあなたのビジネスの強みに変えます。
SNSをフォローして頂くと、最新のAI記事を最速でお届けします！
X: https://twitter.com/BizAIdea
Facebook: https://www.facebook.com/people/Bizaidea/61554218505638/