RoboJEPA、ロボット潜在世界モデルのスケーリング則を検証

ロボット向け世界モデルでは、未来を予測できるかどうかに加えて、モデル規模やデータ量、学習計算量を増やしたときに能力がどのように伸びるのかを把握する必要がある。RoboJEPAは、実ロボットデータを使ってこの問題を定量的に調べるための枠組みを提示した。

画素ではなく潜在表現を予測

RoboJEPAは、Joint Embedding Predictive Architecture（JEPA）を基盤とする。未来の観測を画素単位で生成するのではなく、学習した潜在表現の中で未来の状態を予測し、そのロールアウトを計画に利用する。これにより、行動に関係する状態変化へモデルの容量を向けやすくなる。

学習には12種類のロボット形態を含む大規模な実データが用いられた。研究では、次の点を一体的に評価している。

• 潜在ロールアウトのずれを表す「想像誤差」
• 想像誤差が計算量に伴ってどう変化するか
• 潜在予測の品質と下流のロボット計画性能の関係
• 長い行動系列を必要とする実機タスクでの性能

計算量から性能を外挿する

論文によれば、RoboJEPAの想像誤差は計算量に対して二次のべき乗則に従う。この結果は、より大きなモデルを毎回実機で大規模に検証しなくても、比較的小さな規模で得た関係から性能の傾向を推定できる可能性を示す。

さらに、計算量が増えると計画性能も予測可能な形で改善し、想像誤差とは強い相関を示した。もし他のタスクやロボットにも同じ関係が成り立つなら、想像誤差は実機評価の一部を効率化する代理指標になり得る。候補モデルをまず内部の潜在軌道で比較し、その後にコストの高い実機試験へ進むという使い方が考えられる。

ただし、提示された素材だけでは、この法則があらゆる環境やタスクで成立することまでは確認できない。したがって現時点では、実機評価を完全に置き換える指標というより、世界モデルの品質と行動性能をつなぐ有望な測定手段と見るのが適切だろう。

目標画像に向けたゼロショット計画

RoboJEPAは、単一の目標画像を与えられたとき、実機上でそこへ到達するための計画も実演した。長期的な行動系列を必要とするタスクに対し、固定された動作を直接再現するのではなく、潜在空間で未来を想像しながら行動を選ぶ点が特徴である。

8Bパラメータ版は、これまでで最大規模のJEPA predictorモデルと説明されている。モデルチェックポイント、学習コード、ロボット展開コードも公開された。RoboJEPAの意義は、複数形態のロボット世界モデルを大きくすれば何が起きるのかを、経験則ではなく測定可能な問題として整理したことにある。今後は、異なる環境、タスク、ハードウェアでスケーリング則がどこまで安定するかを検証する必要がある。

出典：Hugging Face Daily Papers