ENCORE、少数の実演からロボット操作戦略を発見するコーディングエージェント

導入

ロボットへの指示が「物体を所定の場所に置く」と一文で与えられても、実行に必要な情報がすべて含まれているとは限りません。どの方向から近づくのか、どこをつかむのか、どの順番で接触するのか、いつ離すのか、そして成功状態をどう見分けるのかは、しばしば明示されません。ENCOREは、この不足を大量の学習データで埋めるのではなく、少数の実演をコーディングエージェントが読める探索の手がかりとして利用します。

手法の構成

ENCOREは、実演を単純な追加学習サンプルとして扱いません。決定論的なビルダーが各実演から、複数視点のキーフレーム、グリッパーの開閉イベント、連続したフレーム列、完全な軌道を抽出し、ひとつの証拠パックにまとめます。これにより、エージェントは映像の見た目だけでなく、動作の順序や時間的な構造も確認できます。

エージェントはこのパックを読み、固定された知覚・行動APIに合わせて方策プログラムを作成します。開発段階では、限られた回数のロールアウトを実行し、結果を見ながらコードを修正できます。その後プログラムを凍結し、成功信号が明かされない封印評価に移ります。評価中の報酬に依存せず、実演から再利用可能な方策を推論できるかを測る設計です。

主な結果

• LIBERO-PROの摂動タスクでは、実演がある場合、最初のプログラムが約半数のタスクに成功しました。実演がない場合の成功は1タスクでした。
• 凍結されたプログラムは96.3%を達成し、同じ言語モデルを使う既存のエージェント方式の89.3%を上回りました。
• 目標が指示文に明記されないRoboDojoタスクでは、実演なしのプログラムは成功しませんでした。
• 実機の両腕ロボットでも、立方体の受け渡しとカップ反転を、それぞれ5回の実演から学習しました。

意義と今後の課題

ENCOREが示すのは、実演を必ずしも大規模な訓練セットに変換する必要はないという可能性です。構造化された文脈として提示すれば、プログラム合成が探索すべき方策の範囲を狭められます。自然言語が最終目的だけを示し、接触順序や完了条件を省略しがちなロボット操作では、この考え方は特に有用です。

一方、結果は特定のベンチマーク、固定API、限られた開発ロールアウトに基づいています。実演の質、視点の違い、物体の変化、より複雑な環境への一般化は今後の検証課題です。それでも、模倣をブラックボックス的な予測ではなく、観察・修正・凍結が可能なプログラム発見として捉えた点に、この研究の意義があります。

出典：Hugging Face Daily Papers