DreamFree、動画モデルの未来予測をリアルタイムロボット制御へ蒸留

ロボットが現実世界で作業するには、現在の画像を認識するだけでは不十分です。物体や環境が次にどう変化するかを予測し、その変化を踏まえて行動する必要があります。World Action Model（WAM）は、動画モデルが学習した世界の変化に関する知識をロボット制御へ利用する考え方です。

従来の方法では、将来の動画を生成してから行動を決める構成が考えられます。しかし、動画拡散モデルの反復的なデノイズには大きな計算量が必要です。また、生成された動画が現実とずれると、その誤差が行動予測にも波及する可能性があります。

DreamFreeの特徴は、将来のフレームそのものではなく、将来の表現を予測する点にあります。研究チームは、事前学習済みの動画拡散モデルを凍結した教師モデルとして利用します。教師は未来の動画を見て視覚表現を作り、別のエンコーダーは現在の観測だけを入力として、その表現を予測するよう学習します。これにより、未来の動画を実際に描画せず、シーンの変化に関する予測知識を現在の表現へ取り込めます。

その後、行動ラベル付きのロボットデモンストレーションを使って行動モジュールを学習します。モジュールは視覚表現から行動に関係する情報を読み出し、デコーダーでロボットの動作を予測します。一方、視覚エンコーダーの学習には動画だけを利用でき、行動ラベルは必須ではありません。

素材で報告された主な結果は次の通りです。

• DROIDだけで学習し、タスク固有の追加微調整を行わない評価で、10の実世界タスクに対して64%の成功率を達成しました。
• 14Bの動画バックボーンを使い、単一のH200上で11Hzの閉ループ制御を実現しました。DreamZeroと比べて推論速度は17.8倍速いとされています。
• 推論時に未来動画を生成せず、classifier-free guidanceも使わない構成で、14Bモデルを48GBのA6000に収められます。
• バックボーンを5Bから14Bへ拡大すると制御性能が向上し、動画データを増やすことでも、追加の行動ラベルなしに改善が得られました。
• 異なるロボット形態で撮影された動画を含む、動画のみの新規タスク移転も可能だと報告されています。

この研究の意義は、動画基盤モデルを高コストなオンライン動画シミュレーターとして使わず、予測構造を圧縮した表現として利用する点にあります。現在の観測から未来に関する情報を取り出せれば、生成処理を省きながら、動画モデルのスケールやデータの恩恵を制御へ接続できます。

ただし、提供された素材には、タスク別の詳細、失敗事例、学習コスト、動画データの内訳などは含まれていません。より長い時間軸や複雑な操作、異なるロボットへの大規模展開については、論文全体の実験による確認が必要です。それでもDreamFreeは、予測する世界モデルをリアルタイム制御へ接続する一つの明確な設計方針を示しています。

出典：Hugging Face Daily Papers