EviScene、画像の真偽判定を「AI生成か」から事実検証へ

導入

画像がAIによって生成されたかどうかを判定しても、画像に写っている状況が事実だとは確認できません。実在する写真であっても、誤った説明文が付けられたり、別の出来事の写真として再利用されたり、場所や日時を取り違えて紹介されたりする可能性があります。EviSceneは、この問題を画像の事実性評価として捉え直します。

画像から検証すべき問いを作る

EviSceneに与えられるのは画像と一般的な検証指示だけで、あらかじめ確認すべき文章の主張は用意されません。エージェントはまず画像を観察し、人物、場所、物体、出来事、時系列など、検証可能な手がかりを自ら見つけます。その後、観察結果を具体的な検索・検証の問いへ段階的に変換します。

調査では、視覚的な再確認、ウェブ検索、画像検索、証拠の比較を組み合わせます。検索結果から得た新しい情報によって次の問いを修正し、必要に応じて画像の関連部分を再確認します。最終的には、状況が支持されるか反証されるかだけでなく、外部証拠が画像内の具体的な状況とどのように対応するかも説明します。

この対応付けが重要です。似た出来事を扱うページを見つけただけでは、検証は完了しません。証拠が対象、場所、時間、出来事のいずれにも正しく対応しなければ、モデルは曖昧な意味の近さだけで偶然正しい判定を出す可能性があります。

ベンチマークと結果

研究チームは、専門家が確認したEviLensベンチマークを構築しました。データは管理された構成とウェブ収集から成り、支持される画像と反証される画像を合わせて10174枚、12種類の事実誤りを含みます。評価では、判定が正しいかだけでなく、提示された証拠が結論を十分に支えているかも測定します。

1527枚のテスト画像では、教師軌跡による教師あり微調整と、検証済み判断を用いた特権的オンライン自己蒸留で学習したQwen3.5-9Bエージェントが、平衡正解率79.05%、厳格証拠十分率52.26%を達成しました。同じバックボーンを使うベースエージェントに比べ、両指標はそれぞれ6.71ポイントと9.37ポイント向上し、厳格証拠十分率は比較対象の中で最高でした。

意義と課題

この研究は、画像検証の基準を「当たったか」から「根拠を示して当てたか」へ広げます。報道のファクトチェック、プラットフォーム上のコンテンツ審査、マルチモーダル検索などへの応用が考えられます。

一方、厳格証拠十分率が52.26%にとどまることは、証拠と画像状況の対応付けが依然として難しいことを示します。検索先の品質、日時や場所の手がかり不足、検索結果の偏り、複雑な出来事の文脈が判定を左右します。今後は、情報源の評価、時間推論、不確実性の表現をさらに改善する必要があります。

コード、モデル、データは公開予定とされており、異なる分野やより現実的な情報環境での追試が期待されます。

Hugging Face Daily Papers