NEC、生成AIのハルシネーション対策機能を発表 – ZDNET Japan

NECが発表した生成AIのハルシネーション対策機能は、誤情報の検出を可能にします。
この技術により、AIによる情報生成の信頼性が向上し、ビジネスや教育など多様な分野での活用が期待されます。
社会全体の情報精度向上に貢献する重要な一歩です。

記事の概要

NECは、生成AIによる誤った情報（ハルシネーション）を検出する機能を10月末から提供することを発表しました。
この新機能は、同社のテキスト分析技術と大規模言語モデル（LLM）のノウハウを基に開発されました。
具体的には、生成された文章と元となった文章を比較し、情報の不一致や意味の変化をユーザーに示します。
これにより、ユーザーは単語の違いだけでなく、文章全体の意味を比較することが可能になります。
また、この機能は要約作業にも活用され、要約前後の文章を比較してハルシネーションの有無を容易に判定できるため、人的確認作業の負担軽減や要約精度の向上が期待されています。
対応するLLMには、NECの「cotomi」と「Microsoft Azure OpenAI Service」が含まれ、今後は固有表現の一致度や文章の一貫性を検証する機能も追加される予定です。

記事のポイント

1. ハルシネーション対策機能の提供： NECは生成AIの誤った情報を検出する新機能を10月末に提供予定です。
2. テキスト分析技術の活用： 同社のテキスト分析技術と大規模言語モデルを基に開発され、情報の正確性が向上します。
3. ユーザーの負担軽減： 要約精度の向上や人的確認作業の負担軽減が期待され、効率的な情報確認が可能になります。

詳しい記事の内容はこちらから（引用元）

ZDNET Japan

NEC、生成AIのハルシネーション対策機能を発表

NECは、生成AIが作成した回答内容に誤った情報が含まれているかどうかを確認できる機能を10月末から提供する。…