返回文章列表
世界模型

Ropedia W0:用人类经验扩展跨具身运动操作世界模型

阅读约 3 分钟

导语

具身智能要在真实环境中行动,不能只回答“下一步该做什么”,还需要预测动作会如何改变视野、身体姿态和物体状态。Ropedia W0瞄准的正是这一问题:训练一个面向人类与机器人的第一视角世界模型,同时处理移动与操作,而不是将行走、抓取和全身协调割裂开来。

核心要点

  • 统一跨具身表示。 不同机器人拥有不同的关节数量、机械结构和动作空间,直接共享动作标签往往很困难。Ropedia W0改用相机位姿描述移动,用投影后的运动骨架描述操作。机器人骨架由自身运动学正向计算与人工关键点标注、校正结合而成,试图把不同身体形态映射到更通用的几何接口。
  • 人类经验成为预训练资源。 项目构建了Xp-Data,包含约1万小时人类第一视角数据和约3000小时机器人数据,并配有相机轨迹、运动学骨架及层级化描述等多模态标注。数据还经过系统化质量控制,以减少跨来源数据之间的噪声差异。
  • 同时覆盖移动与操作。 这类模型不仅要预测手部如何接触物体,也要理解身体如何接近目标、调整视角并持续完成长时任务。研究者还推出Xp-Teleop,用高质量灵巧人形机器人遥操作数据构建长时程运动操作评测。
  • 从预测走向交互。 论文报告称,模型在DreamDojo、Ψ_0、ω-HOME、Xp-Teleop和AgiBot等五项跨具身基准上取得领先结果,并覆盖零样本、少样本和完整数据后训练设置。蒸馏后,模型可进行实时、持续数分钟的滚动预测,并支持实时VR交互。

意义与影响

Ropedia W0最值得关注的并非单一机器人上的任务成绩,而是它对“机器人数据是否必须完全匹配目标身体”的重新思考。人类视频规模大、行为丰富,但人与机器人在视角、动力学和执行能力上存在明显差异。统一的相机—骨架接口提供了一种中间层:模型学习环境变化和身体运动的规律,再由具体具身形态承担执行映射。

实验还显示,增加人类预训练数据能够同时改善人类视频和机器人评测结果,这为利用廉价、广泛的人类经验训练机器人模型提供了支持。不过,跨具身迁移并不等于直接实现可靠控制。视觉遮挡、接触动力学、机器人自身约束以及长时预测误差,仍可能限制模型在真实环境中的表现。当前成果更像是连接感知、预测和规划的基础设施:它可用于策略评估、基于模型的规划以及世界模型与动作模型的结合。未来关键问题将是,统一表示能否在更多身体形态和更复杂任务中保持稳定,并最终转化为可验证、可部署的机器人行为。

来源:Hugging Face Daily Papers

评论

正在确认登录状态……

正在加载评论……

相关文章

CCTest · Blog
让世界模型学会“追点”:VPM用点轨迹连接多视角视频与3D运动
世界模型
cctest.ai
世界模型

让世界模型学会“追点”:VPM用点轨迹连接多视角视频与3D运动

研究团队提出Video-Point Model(VPM),让世界模型同时预测未来视频和场景点的三维运动轨迹。通过把跨摄像机一致的点轨迹纳入训练,模型试图解决多视角预测中的几何不一致问题,并进一步服务于机器人控制。

阅读全文
CCTest · Blog
从“能解码”到“能理解”:JEPA潜在世界的可解释性路线
世界模型
cctest.ai
世界模型

从“能解码”到“能理解”:JEPA潜在世界的可解释性路线

JEPA正在从表征学习工具走向支持预测、规划与控制的潜在世界模型,但其内部状态缺少直观的人类解释接口。一篇最新观点文章提出“Ground–Structure–Verify–Act”四阶段框架,推动可解释性从读取信息转向理解潜在世界的运行方式。

阅读全文