[论文解读] Learning Latent Graph Dynamics for Deformable Object Manipulation.

Xiao Ma, David Hsu+1 more|arXiv (Cornell University)|Apr 25, 2021

Reinforcement Learning in Robotics参考文献 45被引用 16

一句话总结

该论文提出G-DOOM，一种基于学习的方法，通过图神经网络捕捉关键点动力学，并利用循环网络处理自遮挡问题，以实现可变形物体操作。该方法在仿真环境中通过对比学习进行训练，实现了对布料和绳索操作的有效模型预测控制，并在无需微调的情况下实现了强大的零样本迁移至真实世界机器人系统。

ABSTRACT

Manipulating deformable objects, such as cloth and ropes, is a long-standing challenge in robotics: their large number of degrees of freedom (DoFs) and complex non-linear dynamics make motion planning extremely difficult. This work aims to learn latent Graph dynamics for DefOrmable Object Manipulation (G-DOOM). To tackle the challenge of many DoFs and complex dynamics, G-DOOM approximates a deformable object as a sparse set of interacting keypoints and learns a graph neural network that captures abstractly the geometry and interaction dynamics of the keypoints. Further, to tackle the perceptual challenge, specifically, object self-occlusion, G-DOOM adds a recurrent neural network to track the keypoints over time and condition their interactions on the history. We then train the resulting recurrent graph dynamics model through contrastive learning in a high-fidelity simulator. For manipulation planning, G-DOOM explicitly reasons about the learned dynamics model through model-predictive control applied at each of the keypoints. We evaluate G-DOOM on a set of challenging cloth and rope manipulation tasks and show that G-DOOM outperforms a state-of-the-art method. Further, although trained entirely on simulation data, G-DOOM transfers directly to a real robot for both cloth and rope manipulation in our experiments.

研究动机与目标

• 为解决可变形物体操作中高维非线性动力学的挑战，特别是针对布料和绳索。
• 克服视觉观测中关键点跟踪时因物体自遮挡带来的感知困难。
• 使用基于图的神经网络架构学习可泛化的、与动力学相关的可变形物体表征。
• 通过基于学习的动力学模型实现有效的运动规划，基于模型预测控制。
• 在无需微调的情况下，实现从仿真到真实世界机器人操作的零样本迁移。

提出的方法

• 将可变形物体表示为一组稀疏的相互作用关键点，以降低自由度。
• 采用图神经网络在潜在空间中建模关键点之间的几何与动力学相互作用。
• 整合循环神经网络以保持时间一致性，并基于历史状态条件化关键点相互作用，提升对遮挡的鲁棒性。
• 在高保真物理仿真器中使用对比学习训练联合图-循环模型，以学习解耦的、可预测的动力学表征。
• 在每个关键点上应用基于学习动力学模型的模型预测控制，以生成控制策略。
• 采用端到端训练，结合对比目标，促使模型在多样化操作动作下准确预测未来状态。

实验结果

研究问题

• RQ1 基于学习的图动力学模型能否有效表征布料和绳索等可变形物体的复杂非线性行为？
• RQ2 循环组件在自遮挡条件下在多大程度上改善了关键点跟踪与相互作用建模？
• RQ3 在未使用领域随机化或微调的情况下，仿真训练的动力学模型在真实世界机器人操作中的泛化能力如何？
• RQ4 基于学习动力学的模型预测控制能否在具有挑战性的操作任务中实现高性能？
• RQ5 对比预训练对动力学模型泛化能力与鲁棒性的影响如何？

主要发现

• 在仿真环境中的一系列具有挑战性的布料和绳索操作任务中，G-DOOM优于当前最先进方法。
• 该模型在无需任何真实世界微调的情况下，直接实现了对真实世界机器人平台的零样本迁移，适用于布料和绳索操作。
• 循环跟踪的集成显著提升了在自遮挡条件下的关键点稳定性与相互作用建模能力。
• 与监督基线相比，对比预训练使动力学表征更具鲁棒性与泛化能力。
• 基于学习的图动力学模型的模型预测控制能够实现精确的、长时程的操作策略。
• 该方法在不同物体形状与操作策略下均保持高性能，展现出强大的泛化能力。