[論文レビュー] Humanoid Locomotion and Manipulation: Current Progress and Challenges in Control, Planning, and Learning

Zhaoyuan Gu, Junheng Li+16 more|arXiv (Cornell University)|Jan 3, 2025

Robotic Locomotion and Control被引用数 7

ひとこと要約

この調査は、人型ロコ-マニピュレーションにおける進展と課題を概観し、model-based planning/control、learning-based methods、foundation models、および全身触覚 sensing に言及する。

ABSTRACT

Humanoid robots hold great potential to perform various human-level skills, involving unified locomotion and manipulation in real-world settings. Driven by advances in machine learning and the strength of existing model-based approaches, these capabilities have progressed rapidly, but often separately. This survey offers a comprehensive overview of the state-of-the-art in humanoid locomotion and manipulation (HLM), with a focus on control, planning, and learning methods. We first review the model-based methods that have been the backbone of humanoid robotics for the past three decades. We discuss contact planning, motion planning, and whole-body control, highlighting the trade-offs between model fidelity and computational efficiency. Then the focus is shifted to examine emerging learning-based methods, with an emphasis on reinforcement and imitation learning that enhance the robustness and versatility of loco-manipulation skills. Furthermore, we assess the potential of integrating foundation models with humanoid embodiments to enable the development of generalist humanoid agents. This survey also highlights the emerging role of tactile sensing, particularly whole-body tactile feedback, as a crucial modality for handling contact-rich interactions. Finally, we compare the strengths and limitations of model-based and learning-based paradigms from multiple perspectives, such as robustness, computational efficiency, versatility, and generalizability, and suggest potential solutions to existing challenges.

研究の動機と目的

• 人型の移動と操作におけるモデルベースの計画と制御の最先端を要約する。
• RLとILを含む学習ベースの手法の出現と、それがロコ-マニピュレーション tasks に与える影響を評価する。
• 人型タスク計画と意味理解における foundation models の役割を評価する。
• 接触の多いロコ-マニピュレーションにおける全身触覚 sensing の重要性を強調し、今後の方向性を議論する。

提案手法

• 従来の計画と制御アプローチ（接触計画、運動計画、全身制御）をレビューする。
• ロコ-マニピュレーションに適用された強化学習と模倣学習手法を調査する。
• foundation models をタスク計画および意味理解のモジュールとしての可能性を検討する。
• 全身触覚 sensing を主要モダリティとして議論し、手、足、全身 sensing での応用を統合する。
• 統一的なロコ-マニピュレーションのための、モデルベースと学習ベース手法の統合に関する横断的な議論を提供する。

Figure 1: Humanoids executing locomotion and manipulation tasks: (a) HRP-4 wipes a wood board while adapting to terrain [ 1 ] ; (b-g) Object pick and place by Digit, Hector [ 2 ] , Atlas, H1, Justin [ 3 ] , and Apollo; (h) iCub pushes a cart [ 4 ] ; (i) Nadia opens a door [ 5 ] ; (j-k) Object manipu

実験結果

リサーチクエスチョン

• RQ1 人型ロボットにおけるロコ-マニピュレーションを達成する、最先端のモデルベースおよび学習ベースの手法は何か？
• RQ2 汎用で汎用的な人型ロコ-マニピュレーションシステムに残るギャップは何か？
• RQ3 foundation models および触覚 sensing との統合を含む、これらのギャップに対処するために有望な手法はどれか？

主な発見

• モデルベースの計画と制御は依然として基盤であり、予測-反応の階層と全身制御器が中心となっている。
• 学習ベースのアプローチ、特に RL と IL は進展しているが、高自由度 humanoids に対して sim-to-real やデータ効率の課題に直面している。
• foundation models はオープンワールド型の推論と意味計画機能を提供し、バックタスク化と計画の統一に寄与できるが、低レベルの制御はエンドツーエンドではない。
• 全身触覚 sensing は接触の多いロコ-マニピュレーションと安全性のために重要視されつつあり、手、足、および全身 sensing が新しい能力を可能にしている。
• モデルベースの手法と学習ベース戦略の統合が、堅牢で適応性のある人型の移動と操作を解放することが期待される。

Figure 2: This survey begins by defining relevant concepts of humanoid robots and their locomotion and manipulation capabilities. Centered around achieving humanoid loco-manipulation tasks, the core of this survey delves into two main categories of methods: the traditional planning and control appro