FRED、自己蒸留で世界行動モデルの未来表現を改善

はじめに

未知の環境で動くロボットには、現在の映像を見て反応するだけでなく、「この動作の後に何が起きるか」を見積もる能力が必要になる。World Action Models（WAMs）は、事前学習済み動画拡散モデルの豊かな時空間知識を利用し、未来の視覚状態とロボットの行動を結び付けようとする研究の流れだ。

一方、動画拡散モデルをそのまま使うと、通常は複数回のデノイズが必要になり、制御ループでの推論コストが大きくなる。そこで近年のWAMでは、1回のデノイズから中間的な未来動画表現を取り出し、別の行動デコーダーに入力する方式が検討されている。効率は高いが、行動予測の性能が未来表現の質に直接左右されるという課題がある。

FREDの仕組み

論文が提案するFREDは、Future REpresentation learning via self-Distillation with temporal contextの略称である。完全な未来動画を生成するのではなく、ノイズから制御に有用な未来表現を直接推定することを目指す。

• 実際の未来観測を目標にする：正解となる未来観測から表現を抽出し、学習目標として利用する。
• 自己蒸留を使う：ノイズを含む入力から、正解未来に対応する表現を予測するように学習する。
• 履歴を条件に加える：現在の観測だけでなく短い観測履歴も利用し、物体の移動や操作の進行状況を捉える。
• 行動予測へ接続する：改善された未来表現を行動デコーダーへ渡し、単一ステップ推論の効率を維持する。

実験が示すこと

論文によれば、FREDは複数の実世界マニピュレーション環境で、比較対象のWAMを一貫して上回った。特に、複数の段階を含む長期タスクと、訓練時とは異なる環境で大きな改善が見られたという。これは、未来表現の質が単発の映像予測だけでなく、連続した意思決定における誤差の蓄積にも関係する可能性を示している。

さらに、人間からロボットへの技能移転も評価された。対象タスクはロボットの訓練データには含まれず、人間の動画だけで示されていた。この条件でFREDは50.0%のタスク成功率を達成し、最良の比較WAMは19.4%だった。未来の状態や行動の結果を表現できれば、視覚的な人間デモからロボット制御へ技能を移せるというWAMの狙いを、具体的に後押しする結果だ。

意義と今後の論点

FREDの重要性は、完全な動画生成ではなく、行動予測に役立つ未来表現を直接改善する点にある。動画モデルの時空間事前知識を利用しながら、推論時の反復的な動画生成コストを避ける設計であり、視覚予測とロボット行動の接続方法として分かりやすい。

ただし、提供された資料には、モデル規模、データ構成、推論遅延、タスク別の詳細結果は記載されていない。異なるロボットやセンサー、より長い作業手順への一般化は、完全な論文や再現実験で確認する必要がある。今後のWAMでは、未来表現がどれほど自然に見えるかだけでなく、意思決定をどれだけ安定して支えられるかが重要な評価軸になりそうだ。

出典：Hugging Face Daily Papers