世界行動モデルの汎化を支えるのは「未来の完全生成」ではない

導入

世界行動モデル（World Action Model、WAM）は、次に何が起こるかと、エージェントがどの行動を取るべきかを同時に扱うモデルである。観測から行動だけを直接予測する一般的な方策モデルとは異なり、WAMは学習時に未来の視覚状態も予測する。環境の変化を内部で捉えることが、頑健性や未知タスクへの転移に役立つという考え方だ。

一方、未来動画の生成には大きな計算コストがかかる。明示的WAMは、行動チャンクごとに未来動画を段階的に脱ノイズし、鮮明なフレームまで生成する。これに対して潜在WAMは、推論時の未来生成を完全に省き、速度を優先する。学習分布内のタスクでは両者が近い性能を示すこともあるため、WAMの汎化性能に完全な未来生成が本当に必要なのかが問題になる。

研究の主な発見

本研究は、バックボーン、学習データ、計算予算をそろえた比較を行い、次の三つの軸で汎化を評価した。

• 環境の変動：学習時とは異なる環境条件に対して、未来条件を保持するモデルの方が安定する。
• データ効率：学習データが限られる場合でも、未来表現が追加の情報として機能する。
• タスク汎化：タスクが変わった場合、未来表現を利用する行動エキスパートの方が転移しやすい。

潜在WAMは分布内タスクでは明示的WAMに匹敵し得るが、行動エキスパートが未来表現を受け取らなくなると、三つの軸すべてで一貫した性能低下が見られた。つまり、通常のベンチマークだけでは、WAMが持つ汎化上の利点を捉えきれない可能性がある。

さらに重要なのは、差がほぼ最初の脱ノイズステップで生じていた点だ。研究結果は、価値の中心が未来を完全に再構成することではなく、行動生成に先立って表現を未来の方向へ整えることにあると示唆している。

Simple-WAMの設計

この分析をもとに、著者らはSimple-WAMを提案した。推論時に動画を最後まで脱ノイズする代わりに、完全にノイズ化された未来動画トークンへ一度だけ前向き計算を行う。その結果得られた未来表現を行動エキスパートに与え、学習時のノイズスケジュールもこの単一ステップの推論に合わせて調整する。

Simple-WAMは、二つの既存設計の中間に位置する。明示的WAMの反復的な動画生成を避けながら、潜在WAMのように未来条件を完全に捨てることはない。提供された概要によれば、シミュレーションと実世界のタスクで、Simple-WAMは明示的WAMを上回る汎化性能を示し、効率は潜在WAMに近い。

意義と限界

この研究が示すのは、世界モデルの価値を映像の再現品質だけで測るべきではないということだ。具身制御では、鮮明な未来動画そのものより、行動選択に有用な予測表現を低コストで得ることが重要になり得る。

今後は「最もリアルな未来を生成する」よりも、「行動に必要な未来状態を最小限の計算で準備する」方向へ設計が移る可能性がある。ただし、提示された素材には具体的な数値、タスク数、詳細な実験条件は含まれていない。Simple-WAMの優位性の大きさや長期計画への適用範囲については、論文全文と追試による確認が必要である。

出典：Hugging Face Daily Papers