ロボットにも「GPT-3の瞬間」：数秒の実演で新しい動作を学習

導入

ロボットに新しい動作を教えるには、通常、データ収集と学習、さらに現場での調整が必要です。Generalistが公開したGEN-1.5は、別の可能性を示しました。ロボットに3〜12秒の動作実演を見せると、専用に学習していないタスクにもその場で挑戦できます。実演中に勾配更新や追加のファインチューニングを行わないため、ロボット版「GPT-3の瞬間」と表現されています。

主なポイント

• 実演を物理的なコンテキストにする。 従来は実演データをポリシーの訓練に使うのが一般的でした。GEN-1.5は、直前に観察した動作を推論時の入力として利用し、例から一時的な実行方法を推定します。
• 複数の例を組み合わせられる。 ブラシで物を掃く動作を学んだ後、別の物体にも同じ構造を適用できます。さらにちり取りを加えると、片手で掃き、もう片方の手で受ける協調動作を推測する可能性があります。持ち替えや位置調整、失敗からの復帰も、すべてを逐一実演しなくても補える場合があります。
• シミュレーションもプロンプトになる。 スクリプトによる軌道、強化学習エージェントの動作、シミュレーター内で人が遠隔操作した実演などをPhysical Promptとして利用できます。シミュレーターで見た動作を現実のロボットで再現する例も紹介されています。
• 能力は事前学習から現れた可能性がある。 Generalistによれば、ワンショット学習専用の構造や目的関数を追加したわけではありません。現実の物理インタラクションを長期間学習する中で、適応に必要なデータ量が減り、パラメータ更新なしの適応が見えるようになりました。

まだ過大評価は禁物

一度見せれば、どんな動作でも安定してできるという意味ではありません。素材によると、10種類のタスクでPhysical Promptを1回だけ与えた場合の平均成功率は59%でした。5分間の追加データと10回の勾配更新を加えると、成功率は83%に上がります。対象は短く比較的単純なタスクが中心で、安定性は専用にファインチューニングしたモデルに及びません。

それでも重要なのは、成功率の数字だけではありません。連続的な物理データには、動作の順序、結果からのフィードバック、繰り返し、失敗後の復帰が含まれています。こうしたデータを大規模に学習すれば、モデルは「直前に何が起きたか」を踏まえて次の動作を選ぶ能力を獲得する可能性があります。

意義と影響

この方向性が拡張されれば、ロボットの導入方法は変わるかもしれません。新しい作業のたびにモデルを再学習する代わりに、短い実演で技能を伝えられるからです。これは、言葉によるプロンプトを、観察可能で実行可能な動作の文脈へ置き換える「物理版プロンプトエンジニアリング」と言えます。

ただし、環境をまたぐ汎化、長時間タスクの計画、安全性、失敗時の制御は未解決です。GEN-1.5は完成品というより、ロボット基盤モデルが既知の動作の再生から、実演を手掛かりにした行動の組み立てへ進みつつあることを示す成果と見るべきでしょう。

出典：量子位