[論文レビュー] DexTransfer: Real World Multi-fingered Dexterous Grasping with Minimal Human Demonstrations

Zoey Qiuyu Chen, Karl Van Wyk+5 more|arXiv (Cornell University)|Sep 28, 2022

Robot Manipulation and Learning被引用数 10

ひとこと要約

DexTransferは、最小限の人体モーションキャプチャのデモを活用して、23自由度のAllegroハンド向けに多様で成功する grasping 軌道を生成するデータ拡張フレームワークを提案する。人間の動きをロボットにリターゲティングし、勾配フリー最適化による軌道の最適化とドメインランダマイゼーションを適用することで、シミュレーションでの点群観測に基づくポリシーが、未学習の物体の姿勢や初期ハンド配置に対しても、実世界で最大72%の成功率を達成できるようになった。

ABSTRACT

Teaching a multi-fingered dexterous robot to grasp objects in the real world has been a challenging problem due to its high dimensional state and action space. We propose a robot-learning system that can take a small number of human demonstrations and learn to grasp unseen object poses given partially occluded observations. Our system leverages a small motion capture dataset and generates a large dataset with diverse and successful trajectories for a multi-fingered robot gripper. By adding domain randomization, we show that our dataset provides robust grasping trajectories that can be transferred to a policy learner. We train a dexterous grasping policy that takes the point clouds of the object as input and predicts continuous actions to grasp objects from different initial robot states. We evaluate the effectiveness of our system on a 22-DoF floating Allegro Hand in simulation and a 23-DoF Allegro robot hand with a KUKA arm in real world. The policy learned from our dataset can generalize well on unseen object poses in both simulation and the real world

研究の動機と目的

• 高次元の状態空間と行動空間のため、限られた人体デモでの器用なロボット grasping ポリシーの学習の課題に対処する。
• 多指ハンドのための大規模な人体デモの収集というボトルネックを、小規模なモーションキャプチャデータセットの活用によって克服する。
• シミュレーションで多様で成功する軌道を生成するスケーラブルなデータ拡張パイプラインを開発し、ポリシーの一般化性能を向上させる。
• シミュレーションで学習したポリシーを、未学習の物体の姿勢や初期ハンド配置を含む実世界のロボットシステムにロバストに転送できるようにする。
• 連続的行動予測による点群観測からの学習が、固定ポーズベースラインを著しく上回ることを示す。

提案手法

• 非線形最適化フレームワークを用いて、人間のモーションキャプチャデータを非線形的にシミュレーテッド器用ハンドにリターゲティングし、相対的な指と物体の姿勢ダイナミクスを保持する。
• リターゲティングを、指関節の変位、物体相対姿勢、掌の向きの整合性を組み合わせたコスト最小化問題として定式化し、忠実性と実行可能性のバランスを取るために重みを設定する。
• 局所的で勾配フリーの最適化を用いてリターゲティングされた軌道を精錬し、シミュレーション内での成功確率と動的整合性を向上させる。
• 物体の姿勢と初期ハンド配置を摂動させるように意図的なデータ拡張を実施し、データセットの多様性と一般化能力を向上させる。
• 3次元点群を連続的関節行動にマップする深層強化学習ポリシーを訓練し、生のセンサ入力からのエンドツーエンドの grasping を可能にする。
• RGB-D感知とハイレベルの幾何的ファブリックスコントローラーを用いて、23自由度のKUKA AllegroロボットアームとPD制御ハンドに学習済みポリシーを実世界に転送する。

実験結果

リサーチクエスチョン

• RQ1 少数の人体デモを効果的に再利用することで、シミュレーションおよび実世界の未学習の物体の姿勢に一般化する器用な grasping ポリシーを学習できるか？
• RQ2 リターゲティングの単純な適用に比べ、軌道の精錬とデータ拡張がポリシーの成功確率をどの程度向上させるか？
• RQ3 ドメインランダマイゼーションは、シミュレーションから実世界のロボットハードウェアへのゼロショット転送をどの程度効果的に可能にするか？
• RQ4 点群観測からの学習が、固定構成ポリシーまたは最近傍探索ベースラインよりも一般化性能に優れているか？
• RQ5 事前に定義された指のポーズではなく、点群から連続的行動を学習することが、実世界での grasping パフォーマンスにどのような影響を与えるか？

主な発見

• 提案されたDexTransferシステムは、未学習の物体の姿勢において実世界の grasping で72%の成功率を達成し、ベースライン手法を著しく上回った。
• 連続的行動予測による点群入力のポリシーは11%の成功率を示し、固定ポーズに比べて適応制御の必要性を裏付けた。
• 最近傍探索ベースラインはわずか14%の成功率にとどまり、学習済みポリシーが記憶の範囲を越えて、新しい物体やハンド配置に対しても一般化していることを示した。
• シミュレーション内では、未学習の物体の姿勢と初期ロボット状態に対してもポリシーが良好に一般化しており、分布シフトに対するロバストネスを確認した。
• 実世界では全テスト対象物体で40%以上の成功率を示し、一部の物体では最大70%に達した。ドメインランダマイゼーションとデータ拡張の有効性を裏付けた。
• RGB-D感知とハイレベルの幾何的ファブリックス制御を備えた、23自由度のKUKA Allegroロボットハンドに、シミュレーションで学習したポリシーが正常に転送された。