RoboTTT、ロボット方策の文脈長を 8K タイムステップへ拡張

導入

近年のロボット基盤モデルは、視覚と言語を入力に取り、次の動作を予測する形式が多い。しかし多くの場合、利用できる時間的文脈は現在の観測、またはごく短い履歴に限られる。短い操作ならそれでも動くが、数分にわたる多段階タスクや外乱からの復帰では、過去に何が起きたかを保持する能力が重要になる。RoboTTT: Context Scaling for Robot Policies は、この制約を 8K タイムステップの視覚運動コンテキストへ拡張する研究である。

主要ポイント

• 8K タイムステップへの拡張：RoboTTT はロボット方策のコンテキスト長を 8K timesteps まで伸ばす。論文では、これは最先端方策を約三桁上回る規模だと説明されている。
• 推論遅延を増やさない設計：長い履歴をそのまま注意機構に入れるのではなく、履歴を更新可能な重みに圧縮することで、推論レイテンシの増加を避ける狙いがある。
• テスト時学習の導入：中核となるのは Test-Time Training であり、訓練時だけでなく推論時にも勾配降下で「高速重み」を更新する。
• VLA 方策との統合：Vision-Language-Action のようなロボット基盤モデルに組み込むことで、現在の画像と指示だけでなく、長い相互作用履歴を条件として使えるようにする。
• 長系列向けの訓練レシピ：sequence action forcing と truncated backpropagation through time を組み合わせ、長いコンテキストでの訓練を可能にしている。

意義と影響

RoboTTT の意義は、単に入力フレームを増やしたことではない。ロボットが経験した長い履歴を、明示的な巨大コンテキストではなく、推論中に更新される重みとして保持する点にある。実機ロボットでは制御周期が重要であり、文脈が長くなるほど動作が遅くなる設計は実用上の制約になりやすい。そのため、長期記憶と低遅延を両立しようとするアプローチは注目に値する。

実験でも、文脈長が新しいスケーリング軸になり得ることが示されている。論文によれば、RoboTTT は実ロボット操作タスクで単一ステップコンテキストの基準に対して全体性能を 87% 改善した。また 8K タイムステップで訓練したモデルは、同じモデルを 1K タイムステップで事前学習した場合より 62% 高い性能を示したという。

さらに、8K コンテキストでは人間の動画デモからの一回限りの文脈内模倣、実行中の方策改善、外乱への頑健性、多段階・長時間タスクでの性能向上が報告されている。特に、五分間・十段階の組立タスクを完了した点は、長期的な身体知能に向けた重要なシグナルといえる。

出典：Hugging Face Daily Papers