視覚言語行動(VLA)モデルは、画像の観察と自然言語の指示に基づいてロボットを動かします。しかし、安全性はタスクを開始前に拒否できるかだけでは測れません。動作の途中でその行為が禁止された場合、すでに進んでいる状態に応じて停止し、手に持つ物体も適切に扱う必要があります。
論文によると、タスクの初期状態で実行を抑えるよう学習した方策でも、途中で制御を引き継ぐとタスクを完了してしまうことがあります。また、タスクを完了しなくても、停止の仕方によっては把持中の物体を落とす可能性があります。つまり、タスクの未完了だけを安全性の指標にするのでは不十分で、停止時の身体的な反応も評価対象になります。
そこで提案されるのが、状態認識型フォールバック模倣(SAFI)です。物体を保持し続けることが適切な代替行動となるタスクを対象に、次の二段階で学習します。
- **代替目標の構築:**禁止タスクのデモに、腕を動かさず保つ指令と、一貫したグリッパー目標を割り当てます。これにより、元のタスクを終えないことだけでなく、途中状態で取るべき具体的な行動を教えます。
- **方策の共同適応:**代替目標を、継続して実行するタスクの元の動作とともに学習します。停止時の応答を追加しながら、ほかの技能を保つことが狙いです。
研究チームはOpenVLA-OFTを用い、LIBEROおよびBadLIBEROのタスクで、禁止タスクの達成、物理的事故、継続対象タスクの成績を評価しました。評価対象のLIBEROタスクでは、制御引き継ぎ後の目標タスクの集計成功率が1.3%に低下し、物理的事故や動作飽和は記録されませんでした。継続対象タスクの成功率も高い水準を維持したと報告されています。この結果は、禁止された目標に到達したかだけでなく、介入後にロボットが何をしたかを見る重要性を示しています。
SAFIの意義は、安全な停止を、単なるタスク抑制ではなく学習すべき具体的な動作として扱う点にあります。ただし、想定する代替行動は「物体を持ち続ける」ことが適切な場合に限られ、結果も特定モデルとベンチマークタスクでのものです。あらゆるロボットや物体、実環境で安全性が保証されたわけではありません。今後は異なる代替行動や、より多様な引き継ぎ状態での検証が必要です。
コメント
ログイン状態を確認中…
コメントを読み込み中…