[论文解读] Learning Visible Connectivity Dynamics for Cloth Smoothing

Xingyu Lin, Yufei Wang+2 more|arXiv (Cornell University)|May 21, 2021

3D Shape Modeling and Analysis参考文献 39被引用 15

一句话总结

本文提出了一种基于粒子的动力学模型，通过从部分点云观测中学习可见连接动力学（VCD），以提升机器人在布料平滑任务中的表现。通过推断可见布料点之间的网格状连接，并在该稀疏图上建模动力学，该方法在多种布料上实现了优越的泛化能力和零样本仿真到现实世界的迁移性能，优于以往基于模型和无模型的方法，在仿真和Franka机械臂的真实世界部署中表现更优。

ABSTRACT

Robotic manipulation of cloth remains challenging for robotics due to the complex dynamics of the cloth, lack of a low-dimensional state representation, and self-occlusions. In contrast to previous model-based approaches that learn a pixel-based dynamics model or a compressed latent vector dynamics, we propose to learn a particle-based dynamics model from a partial point cloud observation. To overcome the challenges of partial observability, we infer which visible points are connected on the underlying cloth mesh. We then learn a dynamics model over this visible connectivity graph. Compared to previous learning-based approaches, our model poses strong inductive bias with its particle based representation for learning the underlying cloth physics; it is invariant to visual features; and the predictions can be more easily visualized. We show that our method greatly outperforms previous state-of-the-art model-based and model-free reinforcement learning methods in simulation. Furthermore, we demonstrate zero-shot sim-to-real transfer where we deploy the model trained in simulation on a Franka arm and show that the model can successfully smooth different types of cloth from crumpled configurations. Videos can be found on our project website.

研究动机与目标

• 为解决由于自遮挡和复杂动力学导致的机器人布料操作在部分可观测性下的挑战。
• 开发一种可在无需完整网格重建的情况下，泛化于新型布料形状、材质和颜色的动力学模型。
• 通过基于粒子的表示与推断的连接性，引入物理归纳偏差，以提升规划性能。
• 仅使用仿真训练数据，实现零样本仿真到现实世界的迁移，用于真实世界中的布料平滑。
• 通过学习一种物理上合理且对视觉特征不敏感的动力学模型，克服像素级或潜在向量动力学模型的局限性。

提出的方法

• 该方法通过一个学习的边预测模块，估计部分点云中哪些点在底层布料网格上是连接的，从而推断出可见连接图。
• 在可见连接图上构建基于粒子的动力学模型，使用图神经网络（GNN）预测在机器人动作下粒子状态的转移。
• 使用可微分规划器训练动力学模型，通过优化抓取与放置动作以最小化与目标布料构型的距离。
• 在GNN处理器中集成全局模型，以增强图中长距离信息的传播，提升模型鲁棒性。
• 系统采用受GNS启发的消息传递GNN架构，消融实验表明其对消息传递步数具有鲁棒性。
• 模型在仿真中训练，并直接部署在真实世界的Franka机械臂上，无需微调，展示了零样本仿真到现实世界的迁移能力。

实验结果

研究问题

• RQ1 在真实世界中，基于粒子的动力学模型在可见连接图上进行训练，能否泛化到未见过的布料几何形状和材质？
• RQ2 在规划精度和泛化能力方面，可见连接动力学与像素级或潜在向量动力学模型相比如何？
• RQ3 在真实世界设置中，模型对深度传感器噪声和部分可观测性的鲁棒性如何？
• RQ4 该模型能否在无需真实世界微调的情况下，实现布料平滑的零样本仿真到现实世界迁移？
• RQ5 性能对架构选择（如GNN中是否使用全局模型或消息传递步数）的敏感性如何？

主要发现

• VCD模型在仿真中显著优于最先进的基于模型和无模型的强化学习方法，在真实成本下实现了15.744 mm的次佳方法对比下36.897 mm的平均粒子距离至目标状态。
• 在真实成本下，该模型实现了19.871的IOU分数，表明其与目标布料构型高度对齐，优于先前方法。
• 该模型对深度传感器噪声表现出鲁棒性，在真实世界实验中使用的Azure Kinect深度传感器的噪声范围内仍保持高性能。
• 在Franka机械臂上成功实现了零样本仿真到现实世界的迁移，能够成功平滑不同材质、几何形状和颜色的布料，从褶皱状态开始。
• 消融研究显示，在GNN中引入全局模型可提升规划性能，且模型对消息传递步数（3–10）具有鲁棒性，表明对超参数选择具有稳定性。
• 使用真实FleX布料动力学模型的“理想”模型（oracle）实现了完美结果，表明若具备完整动力学知识，仍有进一步提升空间。