视觉语言动作(VLA)模型让机器人能够根据图像和语言指令执行任务。但安全控制不能只看机器人是否会在任务开始前拒绝:如果一项行为在执行途中才被禁止,模型能否及时停下,以及停下时如何处理手中的物体,同样关键。
研究团队在评估中发现,从任务初始状态训练出的抑制策略,未必能应对中途接管。机器人即使没有完成目标,也可能因为停止动作不当而掉落正在抓取的物体。因此,“没有完成任务”并不足以证明行为安全,还需要观察停止过程中的身体动作和物体状态。
为此,论文提出状态感知备用模仿(SAFI),适用于“继续稳稳拿住物体”是合理替代行为的任务。它分两步实施:
- **构造备用目标:**在被禁止任务的演示中,为机械臂指定保持静止的动作,并让夹爪持续采用一致的目标状态。模型由此获得明确的中途应对方式,而不是只学会不完成原任务。
- **联合调整策略:**将这些备用目标与仍需保留的任务原有动作一同用于策略适配,目标是在新增停止行为的同时,尽量维持机器人已有技能。
团队使用OpenVLA-OFT,在LIBERO与BadLIBERO任务上评估禁止任务完成情况、物理事故和保留任务表现。论文报告,在所评估的LIBERO任务中,接管后目标任务的汇总成功率降至1.3%;没有记录到物理事故或动作饱和,同时保留任务仍取得较高成功率。这个结果说明,安全停止可以被设计成一项需要学习的具体动作,而不只是对任务结果进行否定。
SAFI的价值在于把评估视角从“有没有做成”扩展到“停止时做了什么”,并尝试兼顾制止风险与保留能力。不过,它针对的是持物可作为合适备用响应的任务,实验结果也来自特定模型与基准任务,不能直接视为适用于所有机器人、物体或真实场景的保证。后续仍需检验更广泛任务中的备用动作设计,以及不同接管时机下的表现。
评论
正在确认登录状态……
正在加载评论……