[论文解读] Learning Rope Manipulation Policies Using Dense Object Descriptors Trained on Synthetic Depth Data

Priya Sundaresan, Jennifer Grannen+6 more|arXiv (Cornell University)|Mar 3, 2020

Robot Manipulation and Learning参考文献 37被引用 16

一句话总结

本文提出一种方法，通过在合成深度图像上完全训练密集深度物体描述符（DDODs），学习可解释且可迁移的绳索操作策略。通过在仿真中学习初始与目标绳索构型之间的点对对应关系，该方法实现了从视频演示的模仿学习以及几何策略学习，在真实 ABB YuMi 机械臂上对先前未见过的构型实现了 66% 的打结成功率。

ABSTRACT

Robotic manipulation of deformable 1D objects such as ropes, cables, and hoses is challenging due to the lack of high-fidelity analytic models and large configuration spaces. Furthermore, learning end-to-end manipulation policies directly from images and physical interaction requires significant time on a robot and can fail to generalize across tasks. We address these challenges using interpretable deep visual representations for rope, extending recent work on dense object descriptors for robot manipulation. This facilitates the design of interpretable and transferable geometric policies built on top of the learned representations, decoupling visual reasoning and control. We present an approach that learns point-pair correspondences between initial and goal rope configurations, which implicitly encodes geometric structure, entirely in simulation from synthetic depth images. We demonstrate that the learned representation -- dense depth object descriptors (DDODs) -- can be used to manipulate a real rope into a variety of different arrangements either by learning from demonstrations or using interpretable geometric policies. In 50 trials of a knot-tying task with the ABB YuMi Robot, the system achieves a 66% knot-tying success rate from previously unseen configurations. See https://tinyurl.com/rope-learning for supplementary material and videos.

研究动机与目标

• 解决高度可变形的一维物体（如绳索）的机器人操作挑战，此类物体因配置空间维度高以及自遮挡和自相似性导致感知困难。
• 通过完全在仿真中使用合成深度图像训练视觉表征，减少对昂贵真实世界数据采集的依赖。
• 将视觉感知与控制策略学习解耦，实现可解释且可迁移的几何策略。
• 仅通过单个视频演示或几何算法，实现对绳索在复杂平面和非平面构型下的操作。
• 通过学习的密集深度物体描述符（DDODs）实现对未见过的绳索构型的鲁棒泛化。

提出的方法

• 在带有标注对应关系的绳索构型合成深度图像上训练 3D 或 16D 密集深度物体描述符（DDOD）网络，包括注入噪声以提升真实世界迁移性能。
• 在仿真中学习初始与目标绳索状态之间的点对对应关系，隐式编码几何结构，而无需精确的动力学仿真。
• 利用 DDODs 通过最小化真实图像与目标图像之间交并比（IoU）的损失函数来跟踪视频演示，通过绳索曲线的平移和旋转进行对齐。
• 设计一种基于 DDOD 的几何策略用于打结，通过识别环和端点的对应关系并指导顺序动作。
• 在真实 ABB YuMi 机器人上部署学习到的表征，使用夹爪执行模仿策略和几何策略。
• 通过计算拟合到标注绳索点的参数曲线之间的平方误差和，并在平移和旋转上进行优化，评估性能。

实验结果

研究问题

• RQ1 在未使用真实世界数据的情况下，基于合成深度数据训练的密集物体描述符是否能实现有效且可解释的绳索操作策略？
• RQ2 当仅在仿真中训练时，DDOD 是否能泛化到包括非平面构型在内的多样化绳索构型？
• RQ3 基于学习到的 DDOD 的几何策略是否能在复杂任务（如从先前未见过的起始状态打结）中实现高成功率？
• RQ4 与需要大量真实世界数据采集的先前基于学习的方法相比，该方法的性能如何？
• RQ5 DDOD 在多大程度上支持任务无关、可迁移的策略，使其在真实世界操作中既可解释又有效？

主要发现

• 该系统在 ABB YuMi 机器人上对 50 种先前未见过的绳索构型实现了 66% 的打结成功率，优于类似条件下先前的方法。
• 该方法成功地通过单个视频演示，利用基于 DDOD 的视觉对应匹配，跟踪并重复了平面和非平面绳索操作序列。
• 失败分析显示，16% 的失败是由于端点或环点对应错误，12% 是由于拉伸过程中端点被遮挡。
• 训练期间使用注入噪声的合成数据，有效实现了向真实世界绳索操作的迁移，减少了域移位。
• 打结的几何策略表明，DDOD 可在无需在真实数据上进行端到端训练的情况下，支持复杂、多步操作任务。
• 该方法将感知与控制解耦，实现了既具有几何结构又可在任务间迁移的可解释策略。