NECがハルシネーション対策に新機能、生成AIが出力する文章の矛盾箇所など掲示

NECが発表した新機能は、生成AIによるハルシネーション—事実に基づかない情報生成—に対する重要な対策です。
文章の矛盾や非対応部分を明示することで、利用者は情報の信頼性を高められます。
これにより、生成AIが広く使用される社会において、誤情報のリスクを軽減する期待が高まります。

記事の概要

NECは2024年9月18日に、生成AIが事実に基づかない情報を生成する「ハルシネーション」に対処する新機能を発表しました。
この機能は、生成AIが作成した文章とその元になる文章を比較し、矛盾点や対応関係を表示します。
2024年10月以降に提供を開始する予定です。
具体的には、生成AIが要約する際に、出力された文章の中から原文に存在しない語句や、原文との関連を示します。
NECはこの機能が単なる単語の比較に留まらず、文章の意味を比較し判断できる点が特徴だとしています。
NECの外川遼介シニアマネージャーは、この技術が使いやすいことをアピールしました。
ハルシネーション対策機能は、NECの生成AIサービスのAPI標準として提供される予定です。

記事のポイント

1. ハルシネーション対策の革新： NECが生成AIのハルシネーションを検出する新機能を発表しました。
2. 原文との比較機能： 生成した文章と元の文章の対応関係や矛盾を可視化する技術が導入されます。
3. 利便性向上： 単語レベルでの分析が可能で、使いやすさが向上するとNECが強調しています。

詳しい記事の内容はこちらから（引用元）

日経クロステック（xTECH）

NECがハルシネーション対策に新機能、生成AIが出力する文章の矛盾箇所など掲示

　NECは2024年9月18日、生成AI（人工知能）が事実に基づかない情報を生成してしまう「ハルシネーション」に対策する…