[論文レビュー] ToolFlowNet: Robotic Manipulation with Tools via Predicting Tool Flow from Point Clouds

Daniel Seita, Yufei Wang+4 more|arXiv (Cornell University)|Nov 16, 2022

Robot Manipulation and Learning被引用数 7

ひとこと要約

本論文では、点群観測から密な3次元ツールフローを予測する深層学習フレームワーク、ToolFlowNetを提案する。このフレームワークにより、連続的かつ変形性を持つ物体を対象としたロボット操作が可能になる。各点ごとのフローベクトルを回帰し、それらをSE(3)変換に変換することで、物理的スクーピング実験で82%の成功を達成。空間的および時間的アクション表現の向上により、フローベースドでないベースラインを上回った。

ABSTRACT

Point clouds are a widely available and canonical data modality which convey the 3D geometry of a scene. Despite significant progress in classification and segmentation from point clouds, policy learning from such a modality remains challenging, and most prior works in imitation learning focus on learning policies from images or state information. In this paper, we propose a novel framework for learning policies from point clouds for robotic manipulation with tools. We use a novel neural network, ToolFlowNet, which predicts dense per-point flow on the tool that the robot controls, and then uses the flow to derive the transformation that the robot should execute. We apply this framework to imitation learning of challenging deformable object manipulation tasks with continuous movement of tools, including scooping and pouring, and demonstrate significantly improved performance over baselines which do not use flow. We perform 50 physical scooping experiments with ToolFlowNet and attain 82% scooping success. See https://tinyurl.com/toolflownet for supplementary material.

研究の動機と目的

• 生の3次元点群観測からのロボット操作ポリシーの学習という課題に取り組むこと。これは、画像や状態ベースの手法と比較して未だ十分に研究が進んでいない。
• 画像ベースの手法の限界（2次元投影損失やシミュレーションから現実へのギャップ）と、状態ベースの手法の限界（変形性物体の状態推定に困難を伴う）を克服すること。
• 連続的マニピュレーションタスクにおけるポリシー一般化の向上を目的として、ツール上における各点ごとの密なフローを用いた新しいアクション表現を導入すること。
• 特に液体のような変形性材料を扱うタスクにおいて、シミュレーションおよび現実世界のロボット環境で、フローに基づくポリシー学習の有効性を実証すること。
• 広範なアブレーションスタディおよび物理的ロボット（Sawyer）を用いた実世界でのデプロイによって、フレームワークを検証すること。

提案手法

• ToolFlowNetは、点群処理バックボーン（例：PointNet++ベース）を用い、ツール上における各点ごとの3次元フローベクトルを予測することで、1ステップから次のステップへの意図された運動を表現する。
• モデルは、デモトラジェクトリから導出された真値フローベクトルを用いた行動クラーニングにより訓練され、特に各点ごとの監視を重視する。
• 予測されたフローベクトルは集約され、SE(3)変換（並進と回転）に変換されて、実行可能なロボットアクションを生成する。
• 低振幅のアクションが不規則な動きを引き起こす問題を解消するため、真値アクションを変動させる方法を用い、各合成フローベクトルが1 cm以上の大きさに達するまで繰り返す。
• 推論パイプラインは、Python 3およびZeroMQ（pyzmq）を用いて、ロボットのROS 1制御のCPUオンリーローカルコンピュータと通信するリモートGPUマシン上で実行される。
• 本フレームワークは、各点出力を生成する任意の点群アーキテクチャと互換性があり、既存のシーンフロー推定技術ともスムーズに統合可能である。

実験結果

リサーチクエスチョン

• RQ1 点群から得られる各点ごとの密なフローベクトル予測は、ロボットツールマニピュレーションの有効なアクション表現として機能するか？
• RQ2 点群から導出されたフローを用いた学習は、直接的なアクション回帰と比較して、連続的マニピュレーションタスクにおけるポリシー一般化と成功確率を向上させるか？
• RQ3 フローに基づくポリシーは、液体のような変形性物体を含む現実世界のロボットタスクで高い成功率を達成できるか？
• RQ4 低振幅アクションに対する可変的合成技術は、ポリシー学習および現実世界でのパフォーマンスにどのような影響を及えるか？
• RQ5 画像ベースのアシスト学習と比較して、ToolFlowNetはシミュレーションから現実へのギャップをどの程度低減できるか？

主な発見

• 50回の物理的スクーピング実験において、ToolFlowNetは82%の成功率を達成し、強力な現実世界への一般化能力と耐障害性を示した。
• 特にスクーピングや倒し込みのような連続的運動を要するタスクにおいて、シミュレーションおよび物理的環境の両方で、非フローベースドなベースラインを顕著に上回った。
• アブレーションスタディにより、直接的なアクション回帰と比較して、各点ごとの密なフローベクトル監視が、複雑な3次元マニピュレーションシナリオにおいてより優れたポリシー学習をもたらすことが確認された。
• 可変的合成技術により、低振幅アクションに起因する問題が効果的に緩和され、実ロボットデータにおける安定的かつ効果的なポリシー学習が可能になった。
• テスト実験のフレームをサブサンプリングした結果、成功した試行ではボールの正確な局所化と容器からの適切な持ち上げが見られた一方、失敗の主な原因は容器の壁への衝突であった。
• プロジェクトウェブサイトの動画証拠から、衝突による失敗が一般的であり、工具の軌道がずれていることが原因であることが確認された。これにより、フローに基づく空間的制御の重要性が浮き彫りになった。