NEC、生成AIのハルシネーション対策機能を発表 – ZDNET Japan

記事の概要

NECは、生成AIによる誤った情報（ハルシネーション）を検出する機能を10月末から提供することを発表しました。
この新機能は、同社のテキスト分析技術と大規模言語モデル（LLM）のノウハウを基に開発されました。
具体的には、生成された文章と元となった文章を比較し、情報の不一致や意味の変化をユーザーに示します。
これにより、ユーザーは単語の違いだけでなく、文章全体の意味を比較することが可能になります。
また、この機能は要約作業にも活用され、要約前後の文章を比較してハルシネーションの有無を容易に判定できるため、人的確認作業の負担軽減や要約精度の向上が期待されています。
対応するLLMには、NECの「cotomi」と「Microsoft Azure OpenAI Service」が含まれ、今後は固有表現の一致度や文章の一貫性を検証する機能も追加される予定です。

記事のポイント

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

NEC、生成AIのハルシネーション対策機能を発表

NECは、生成AIが作成した回答内容に誤った情報が含まれているかどうかを確認できる機能を10月末から提供する。…