AI検索の回答に偽情報を仕込んでユーザーをだます詐欺の手口が登場 – ZDNET Japan

AI検索が悪用され、偽情報を混入させる新たな詐欺手法が発覚しました。
この手法は、ユーザーを偽のコールセンターに誘導し、金銭や個人情報を奪う危険性を秘めています。
AI技術の進化が新たなセキュリティリスクを生む中、注意喚起が求められます。

記事の概要

最近、AIチャットボットの情報源を悪用した詐欺手法「LLM電話番号汚染」が明らかになりました。
研究者たちによると、サイバー犯罪者は公開されているウェブコンテンツを改ざんし、偽のコールセンター電話番号をAIによる検索結果に表示させています。
この手法は、ユーザーが信頼できる情報源と誤認しやすく、結果的に詐欺に巻き込まれる危険性があります。
特に、旅行者や一般のユーザーが被害に遭いやすいとのことです。
研究者たちは、政府機関や人気ブログ、レビューサイトなどから汚染された情報が広まることで、AIサービスが誤った回答を生成することを懸念しています。
このように、AIを利用した情報検索の新たなセキュリティリスクが浮上しています。

記事のポイント

1. サイバー攻撃の新手法： AI検索を利用した詐欺手法「LLM電話番号汚染」が明らかになりました。
2. 偽情報の拡散： 公開情報を改ざんすることで、偽のコールセンター番号が正規情報として表示される危険性があります。
3. ユーザーのリスク増加： 詐欺師が信頼できる情報源を装うことで、無防備なユーザーが金銭的被害や情報漏洩に遭う可能性があります。

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

AI検索の回答に偽情報を仕込んでユーザーをだます詐欺の手口が登場

人工知能（AI）チャットボットが参照する公開の情報源を悪用して、偽のコールセンターの電話番号を表示させるサイバー攻撃キャ…