SpanCalib-VLM、視覚言語モデルの幻覚スパン検出を校正する

背景

視覚言語モデルは画像に基づく説明を流暢に生成できますが、画像から確認できない物体や属性を回答に含めることがあります。この幻覚を実用的に検出するには、回答全体に一つのラベルを付けるだけでは不十分です。どの単語やフレーズが根拠を欠いているのかを特定し、その判断に付けた確率が実際の正しさを適切に反映している必要があります。

二つのモデルの役割分担

SpanCalib-VLMは、性質の異なる二つの検出器を組み合わせます。

• 生成型VLM：微調整済みのQwen3.5-4B-SHROOM-SFTを使い、幻覚の可能性があるテキストスパンを候補として抽出します。候補を広く拾える一方、過信しやすく、推論にも時間がかかるという課題があります。
• マルチモーダル系列タグ付け器：XLM-RoBERTa-Largeに、SigLIPの画像表現をクロスアテンションで統合します。決定的に系列を判定し、より校正された確率を出せますが、保守的な判定によって一部の幻覚スパンを見逃す可能性があります。

両者を単純に平均するのではなく、論文は Union-Calibrated Fusion という手順を採用します。まず生成モデルが候補を広く提示し、その後、系列タグ付け器の確率を使って候補を再スコアリングします。これにより、生成モデルの候補カバレッジを維持しつつ、過度に強い確信を抑えることを狙います。

評価結果の意味

SHROOM-Visions Shared Taskの英語評価分割では、アンサンブルのPearson校正相関が0.41、全体IoUが0.39、全体検出精度が70.7%でした。幻覚のない回答を対象とするclean-response IoUは0.91と報告されています。つまり、クリーンな回答に対する安定性は比較的高い一方、難しいケースではスパン境界の一致や確率の校正に改善余地が残っています。

IoUは予測した範囲と正解範囲の重なりを測る指標であり、校正相関は信頼度が実際の判定結果にどの程度沿うかを示します。幻覚を多く発見できても、確率が一貫して高すぎれば、自動的なリスク選別や人手レビューの優先順位付けには使いにくくなります。

意義と今後の課題

この研究の意義は、候補を広く見つける役割と、確率を慎重に評価する役割を別のモデルに分担させた点にあります。スパン単位の校正された信号は、危険な回答の順位付け、確認が必要なサンプルの抽出、複数の視覚言語モデルの比較に活用できる可能性があります。

一方、提示された結果は英語の評価分割に基づくもので、他言語、画像領域、モデル規模をまたいだ性能は素材中で示されていません。広範な環境での再現性は今後の検証課題です。著者らはモデルの重みとコードを公開しており、追試や構成要素の比較を進めるための基盤を提供しています。

出典：Hugging Face Daily Papers