[論文レビュー] Learning Fine Pinch-Grasp Skills using Tactile Sensing from A Few Real-world Demonstrations

Xiaofeng Mao, Yucheng Xu+6 more|arXiv (Cornell University)|Jul 10, 2023

Interactive and Immersive Displays被引用数 4

ひとこと要約

本論文では、1回の実世界での人間の模倣動作から、高次元のタクトイルセンシングとプロ prioceptiveフィードバックを活用して、繊細なデキストラスピングリップスキルをデータ効率よく学習する、学習 from デモ（LfD）フレームワークを提案する。畳み込み自己符号化器を用いてタクトイル特徴を抽出し、それらを行動クローンネットワークにおけるプロ prioceptive状態と統合することで、外部の大きな摺り返しにさらされても、接触に敏感な、安定したグリップと再グリップが可能となり、タクトイル豊富なフィードバックを用いたワンショットスキル転送を実証した。

ABSTRACT

Imitation learning for robot dexterous manipulation, especially with a real robot setup, typically requires a large number of demonstrations. In this paper, we present a data-efficient learning from demonstration framework which exploits the use of rich tactile sensing data and achieves fine bimanual pinch grasping. Specifically, we employ a convolutional autoencoder network that can effectively extract and encode high-dimensional tactile information. Further, We develop a framework that achieves efficient multi-sensor fusion for imitation learning, allowing the robot to learn contact-aware sensorimotor skills from demonstrations. Our comparision study against the framework without using encoded tactile features highlighted the effectiveness of incorporating rich contact information, which enabled dexterous bimanual grasping with active contact searching. Extensive experiments demonstrated the robustness of the fine pinch grasp policy directly learned from few-shot demonstration, including grasping of the same object with different initial poses, generalizing to ten unseen new objects, robust and firm grasping against external pushes, as well as contact-aware and reactive re-grasping in case of dropping objects under very large perturbations. Furthermore, the saliency map analysis method is used to describe weight distribution across various modalities during pinch grasping, confirming the effectiveness of our framework at leveraging multimodal information.

研究の動機と目的

• 実ロボットの模倣動作から、豊富なタクトイルフィードバックを用いて、データ効率の良いLfDフレームワークを開発し、繊細なバイマンダル操作を可能にすること。
• 1回の模倣動作からの繊細な運動スキルの学習に、高次元のタクトイルデータとプロ prioceptive状態情報を統合することで、課題に取り組むこと。
• 視覚のみまたは低次元センサフィードバックに依存する手法の限界を乗り越え、ソフトタクトイルセンサの識別力を利用する事で、ワンショット学習における性能を向上させること。
• 外部の摂動にさらされても、強靭で安定したグリップと自律的な再グリップを実現すること。これは、学習されたセンサモーター政策から自然に生じるものである。
• サリエンシー・マップを用いたモダリティ寄与度の分析により、グリップ実行の異なる段階において、タクトイルとプロ prioceptiveフィードバックがどのように重み付けされているかを明らかにすること。

提案手法

• 畳み込み自己符号化器を用いて、ソフトタクトイルセンサ（TacTip）から得られる高次元タクトイル画像を、低次元の潜在空間表現に抽出・圧縮する。
• 学習されたタクトイル特徴を、プロ prioceptive状態特徴（関節角、エンドエフェクタ位置）と統合し、マルチモーダル状態表現を形成する。
• 1回の人の模倣動作から得た統合された状態-行動ペアを用いて、行動クローンネットワークを訓練し、模倣された運動スキルを再現するポリシーを学習する。
• 接触パターンの変化（タクトイル画像の差分）を追加の入力モダリティとして用いることで、動的接触変化への感受性を高める。
• サリエンシー・マップ分析を適用し、グリップの異なる段階において、タクトイルとプロ prioceptiveモダリティの相対的寄与度を計算する。
• ポリシーはシミュレーションを避けて、実ロボットデータ上でエンドツーエンドに訓練され、ドメインランダマイゼーションや大規模データを必要とせず、ハードウェアへの直接的な転送が可能となる。

Figure 1: Autonomous dexterous grasping with soft tactile sensors, including pre-grasp, press, roll-lift, and firm grasp.

実験結果

リサーチクエスチョン

• RQ1 ロボットは、タクトイルとプロ prioceptiveフィードバックのみを用いて、1回の実世界の模倣動作から、繊細なデキストラスピングリップスキルを学習できるか？
• RQ2 タクトイルとプロ prioceptiveモダリティは、グリップの異なる段階（プレグリップ、圧着、ロールリフト、安定化）において、どのように異なる寄与度を示すか？
• RQ3 タクトイルセンシングは、プロ prioceptionのみに比べて、ワンショット学習性能をどの程度向上させるか？
• RQ4 学習されたポリシーは、直径、質量、素材が異なる未観測の物体へ一般化できるか？
• RQ5 ポリシーは、物体の落下や押しつけなどの大きな外部摂動を自動で検知し、回復できるか？

主な発見

• 本フレームワークは、タクトイルとプロ prioceptiveフィードバックのみを用いて、1回の実世界の模倣動作から、安定的かつ強靭な繊細なピンチグリップポリシーを学習することに成功した。
• ポリシーは、直径、質量、素材が異なる10種類の未観測の物体へ一般化し、同じ物体カテゴリ内でのゼロショット一般化の強さを示した。
• ポリシーは、大きな外部の押しつけにもかかわらず、しっかりとした安定したグリップを維持した。これは、動的摂動に対する耐性を示している。
• 物体の落下後に、明示的に模倣されていなくても、自律的に成功した再グリップを実行した。これは、学習されたセンサモーター政策から自然に生じた行動であった。
• サリエンシー・マップ分析により、タクトイルフィードバックが圧着およびリフト段階で優勢に働き、プロ prioceptionがプレグリップおよび安定化段階での調整に重要な役割を果たしていることが明らかになった。
• 比較研究により、タクトイルセンシングがワンショット学習における繊細なスキル習得に不可欠であることが確認された。タクトイル入力のないベースライン手法は、タスクを効果的に学習できなかった。

Figure 2: Architecture detailing the teleoperation system for demonstrations and the LfD framework.