記事の概要
2024年03月22日、OpenAIのChatGPTやGoogleのGeminiなど、主要生成AIの弱点や脆弱性が次々と発覚している。
これにより、生成AIが悪用されると、社外秘情報や個人情報の流出、偽情報の作成などが懸念される。
イスラエルの研究チームは、生成AIとユーザーの間に割り込んでデータパケットを傍受し、AIの回答内容を高い精度で復元する攻撃に成功したと発表した。
また、Geminiにも不正操作の脆弱性が見つかっており、Gemini APIを使ってプロンプトに含まれる社外秘情報が流出する恐れがあるとされる。
生成AIの脆弱性や弱点については、他の研究者やサイバーセキュリティ企業も指摘しており、生成AIエコシステムを通じてユーザーアカウントへの不正アクセスのリスクも指摘されている。
記事のポイント
詳しい記事の内容はこちらから（引用元）
ITmedia NEWS
米OpenAIの「ChatGPT」やGoogleの「Gemini」など、主要生成AIの弱点や脆弱性が次々に発覚している。…
https://www.itmedia.co.jp/news/articles/2403/22/news069.html