Enoki、事実表現で効率的な多層幻覚検出を実現

大規模言語モデルは自然で説得力のある文章を生成できる一方、根拠のない事実を混ぜることがある。医療、法律、研究などの高リスク領域では、回答全体を正しいか誤りかに分類するだけでは不十分だ。どの事実が証拠によって支えられていないのか、そして回答のどの箇所にその問題が現れているのかを示す必要がある。論文「Enoki: Efficient Multi-Level Hallucination Detection」は、この二つの要求を同時に扱う枠組みを提案した。

背景：検証と位置特定をつなぐ

幻覚検出には大きく二つの方向がある。主張レベルの手法は回答を検証可能な事実単位に分解し、それぞれが証拠に支えられているかを判断する。これは説明しやすい。一方、スパンレベルの手法は、未支持の単語やフレーズを直接マーキングするため、編集や監査に向いている。

しかし両者を組み合わせるには、分解、検証、対応付けの処理が必要になる。大規模言語モデルを多く呼び出す構成では推論コストが増え、部品を組み合わせる構成でも、検証済みの主張を元の文章範囲へ対応付ける追加処理が必要になる。Enokiは、この対応付けを別工程にせず、共通の中間表現に組み込む。

主なポイント

• 関係事実を共通表現にする。 Enokiは、文章中のエンティティ間の属性や関係などを、原文上の位置情報とともに抽出する。この事実は検証単位であると同時に、元のスパンへの手掛かりにもなる。
• 検証結果をそのまま位置へ戻す。 抽出した事実を証拠と照合し、未支持と判断された場合は、保持していたテキストアンカーを使って関連スパンを特定する。別個の主張—スパン対応付け機構を必要としない。
• 複数の抽出方式に対応する。 大規模言語モデル、エンコーダー、ルールベースの抽出器を共通インターフェースから利用できる。用途に応じて精度と推論コストを調整しやすい。
• 細粒度の診断を重視する。 論文の報告では、主張レベルで強力な既存システムと競争力を保ちながら、スパンレベルおよびエンティティレベルの位置特定で優れた性能を示した。
• 対応データセットを公開する。 EnokiQAは、主張レベルの検証とスパンレベルの位置特定を結び付けた注釈を提供する。

意義と限界

Enokiの特徴は、幻覚を単なる二値分類として扱わない点にある。「この事実は正しいか」と「どの文章を確認すべきか」を同じ事実表現から導出するため、検索拡張生成、文書レビュー、高リスク質問応答などで利用しやすい検出結果になる可能性がある。

また、抽出器を交換しても後段の検証・位置特定の流れを維持できるため、システム設計の再利用性も高められる。軽量な方式と大規模モデル方式を、遅延や予算に応じて比較できる点は実装上の利点だろう。

一方、提供された素材には具体的なベンチマーク数値、ハードウェア条件、代表的な失敗例は含まれていない。そのため、精度とコストの差を詳細に判断するには論文本文の確認が必要である。今後は分野ごとの証拠品質や抽出誤りが、最終的な位置特定にどう影響するかも重要になる。

それでも、テキストを証拠に結び付いた事実として表現し、検証結果を元の位置へ反映するという考え方は、説明可能で効率的な幻覚評価の一つの方向を示している。

出典：Hugging Face Daily Papers