[论文解读] Task-Oriented Hand Motion Retargeting for Dexterous Manipulation Imitation

Dafni Antotsiou, Guillermo Garcia-Hernando+1 more|arXiv (Cornell University)|Oct 3, 2018

Robot Manipulation and Learning参考文献 32被引用 6

一句话总结

该论文提出了一种混合粒子群优化（PSO）方法，结合逆运动学与面向任务的能量最小化，以提升从噪声较大的姿态估计结果到29自由度仿人手模型的人类手部动作重定向效果。该方法通过优化任务目标，提高了抓握成功率，实现了在仿真环境中利用真实世界人类示范进行鲁棒的模仿学习。

ABSTRACT

Human hand actions are quite complex, especially when they involve object manipulation, mainly due to the high dimensionality of the hand and the vast action space that entails. Imitating those actions with dexterous hand models involves different important and challenging steps: acquiring human hand information, retargeting it to a hand model, and learning a policy from acquired data. In this work, we capture the hand information by using a state-of-the-art hand pose estimator. We tackle the retargeting problem from the hand pose to a 29 DoF hand model by combining inverse kinematics and PSO with a task objective optimisation. This objective encourages the virtual hand to accomplish the manipulation task, relieving the effect of the estimator's noise and the domain gap. Our approach leads to a better success rate in the grasping task compared to our inverse kinematics baseline, allowing us to record successful human demonstrations. Furthermore, we used these demonstrations to learn a policy network using generative adversarial imitation learning (GAIL) that is able to autonomously grasp an object in the virtual space.

研究动机与目标

• 解决将高噪声、实时的人类手部姿态估计结果重定向到高自由度仿人手模型以实现灵巧操作的挑战。
• 通过在动作重定向中引入面向任务的目标，提升抓握成功率，降低对姿态估计噪声和领域差异的敏感性。
• 利用深度摄像头和最先进的手部姿态估计算法，可靠地获取专家示范，适用于模仿学习。
• 开发一个稳健的流程，利用重定向的人类动作在仿真环境中训练模仿策略。

提出的方法

• 该方法使用逆运动学（IK）基于估计的人类关节角度，将手部姿态初始化为29自由度模型中的状态。
• 一种混合PSO算法通过最小化包含姿态一致性与面向任务目标的复合能量函数，优化IK解。
• 面向任务的目标函数 $E_{task}$ 促进手部手指与目标物体之间的接触，从而提升抓握稳定性和成功率。
• 通过PSO迭代优化能量函数，其中粒子位置代表手部构型，速度根据适应度评估结果更新。
• 最终的重定向轨迹用于训练生成对抗性模仿学习（GAIL）策略，实现在仿真环境中的自主抓握。
• GAIL策略通过行为克隆进行预训练，并进一步利用TRPO优化，以确保轨迹一致性和泛化能力。

实验结果

研究问题

• RQ1 与标准逆运动学相比，通过PSO实现面向任务的优化是否能显著提升重定向手部动作在抓握任务中的成功率？
• RQ2 混合PSO-IK方法在处理手部姿态估计算法产生的噪声以及操作过程中的遮挡时，效果如何？
• RQ3 从深度摄像头获取的重定向人类示范在多大程度上可用于训练可泛化的模仿策略，以实现灵巧操作？
• RQ4 任务能量函数中不同权重参数对抓握性能和动作自然性的影响如何？

主要发现

• 混合PSO方法相较于逆运动学基线方法显著提升了抓握成功率，在最优参数设置下成功率提升最高达40%。
• 使用25个粒子和25次迭代可获得接近最优的性能，超过100次迭代或粒子数后收益递减。
• 任务能量函数 $E_{task}$ 至关重要：设置 $\omega_{task} = 1$ 的结果劣于中间值，表明任务目标与姿态保真度之间需保持平衡。
• 当初始状态噪声增加时，GAIL策略在初始化为已见条件时表现良好，但性能迅速下降，凸显其泛化能力的局限性。
• 该方法能够直接从深度摄像头输入获取运动学上合理且任务成功的真人示范，无需依赖专用动作捕捉系统。
• 该框架在使用真实世界人类运动数据于仿真环境中实现端到端的灵巧操作模仿学习方面展示了可行性。