自動運転 VLM の未来軌道リークを防ぐ：DEFT-RLVR が推論を検証可能にする

導入

自動運転では、視覚・言語・行動を結びつける VLA モデルや、判断の根拠を説明できる VLM への関心が高まっている。単に「曲がる」「減速する」と出力するだけでなく、なぜその操作が必要なのかを、道路状況や周囲車両、歩行者、信号などに基づいて説明することが期待されている。そのため、Chain-of-Thought（CoT）による推論過程の教師データが使われることも増えている。

しかし、この論文はその教師データ作成に潜む落とし穴を指摘する。既存のパイプラインでは、推論文を生成する教師モデルに、ログ上の正解未来軌道を先に見せることがある。するとモデルは、シーンから意思決定を導くのではなく、すでに見えている結果に合う説明を後から作る可能性がある。著者らはこれを「軌道アンカリングバイアス」と呼び、因果的に忠実でない推論や幻覚を悪化させる要因になると述べている。

核心ポイント

• 問題は CoT そのものではなく、正解軌道の早すぎる提示にある。 未来の結果を知った状態では、説明が本当の判断根拠ではなく事後的な物語になりやすい。
• 正解軌道を単に隠すだけでも難しい。 自由形式で未来軌道を生成させると、高レベルな運転判断、幾何的な経路生成、低レベルのダイナミクスが絡み合い、検証が難しくなる。
• AD-MCQ は計画を多肢選択に変える。 モデルはゼロから軌道を作るのではなく、明示された複数の候補軌道から適切なものを選ぶ。
• DEFT-RLVR は未来軌道の提示を遅らせる。 未来軌道を意思決定前のヒントではなく、意思決定後の検証ターゲットとして使う。
• VLM 内で完結しやすい。 候補軌道の作り方によって難易度を調整でき、実験では自動運転推論を改善しつつ一般的な視覚能力も保つ、または高める可能性が示されている。

意義と影響

この研究の重要性は、自動運転モデルの「説明」が本当に判断に基づいているのかを問い直した点にある。安全が重視される領域では、もっともらしい文章だけでは十分ではない。正解を見た後に作られた説明では、監査やデバッグ、システム検証における信頼性が限定される。

AD-MCQ は実用的な妥協でもある。完全な連続軌道を自由生成させるより、候補軌道から選ばせる方が検証しやすく、同時に複数の運転意図を比較させられる。候補の構成によって問題の難易度を制御できる点も、ベンチマークや訓練データ設計に向いている。

一方で、候補軌道の品質が結果に影響する点は今後の課題になる。候補が不十分なら、モデルは本質的な運転判断ではなく選択肢の癖を学ぶ可能性がある。それでも DEFT-RLVR は、自動運転 VLM における重要な原則を明確にした。モデルに未来を先に見せてから、推論したふりをさせてはいけない。

出典：Hugging Face Daily Papers