[論文レビュー] Combining Physics and Deep Learning to learn Continuous-Time Dynamics Models

Michael Lutter, Jan Peters|arXiv (Cornell University)|Oct 5, 2021

Model Reduction and Neural Networks被引用数 10

ひとこと要約

この論文では、ラグランジュ力学とニューラルネットワークを組み合わせることで連続時間のダイナミクスモデルを学習する、物理的制約を組み込んだディープラーニングフレームワークであるDeep Lagrangian Networks（DeLaN）を紹介する。Euler-Lagrange方程式の残差を最小化することで、エネルギー保存則を満たし、物理的に整合性のあるモデルを実現し、解釈可能な前向き・逆運動学・エネルギーモデルを提供する。これは、シミュレートされた剛体および物理的剛体において、長期予測およびリアルタイム制御においてブラックボックスネットワークを上回る性能を発揮する。

ABSTRACT

Deep learning has been widely used within learning algorithms for robotics. One disadvantage of deep networks is that these networks are black-box representations. Therefore, the learned approximations ignore the existing knowledge of physics or robotics. Especially for learning dynamics models, these black-box models are not desirable as the underlying principles are well understood and the standard deep networks can learn dynamics that violate these principles. To learn dynamics models with deep networks that guarantee physically plausible dynamics, we introduce physics-inspired deep networks that combine first principles from physics with deep learning. We incorporate Lagrangian mechanics within the model learning such that all approximated models adhere to the laws of physics and conserve energy. Deep Lagrangian Networks (DeLaN) parametrize the system energy using two networks. The parameters are obtained by minimizing the squared residual of the Euler-Lagrange differential equation. Therefore, the resulting model does not require specific knowledge of the individual system, is interpretable, and can be used as a forward, inverse, and energy model. Previously these properties were only obtained when using system identification techniques that require knowledge of the kinematic structure. We apply DeLaN to learning dynamics models and apply these models to control simulated and physical rigid body systems. The results show that the proposed approach obtains dynamics models that can be applied to physical systems for real-time control. Compared to standard deep networks, the physics-inspired models learn better models and capture the underlying structure of the dynamics.

研究の動機と目的

• ロボット工学におけるブラックボックスディープネットワークの限界、すなわち物理的原則を無視し、非物理的なダイナミクスを生じさせることを是正すること。
• 第一原理の物理法則とディープラーニングを統合した、一般化性能および解釈可能性を向上させるモデル学習フレームワークの開発。
• 同一のパラメータセットを用いて、前向き・逆運動学・エネルギーモデルを1つのアーキテクチャで同時に学習可能にする。
• 観測ノイズや部分的状態観測の下でも、実世界のロボットシステムに物理的インスピレーションを持つモデルを拡張可能にする。
• 複雑な接触や非観測一般化座標を扱う際の、既存の物理的制約付きネットワークの一般化の欠如を克服すること。

提案手法

• DeLaNは、系の運動エネルギーとポテンシャルエネルギーを、それぞれ独立したディープニューラルネットワークでパラメータ化する。
• ネットワークのパラメータは、Euler-Lagrange微分方程式の二乗残差を最小化することで最適化され、物理的整合性が保証される。
• この手法によりエネルギー保存則が保証され、系の構造を明示的に知らなくても運動法則に従う学習済みダイナミクスが得られる。
• 同じネットワークパラメータを用いて、前向きダイナミクス、逆運動学、系のエネルギーを計算可能であり、マルチタスクモデリングが可能となる。
• 本手法は、パンドラムやロボットアームを含む、シミュレーションおよび実世界のロボットシステムに適用され、リアルタイム制御性能が評価された。
• 拡張として、一般化座標を画像から推定するために変分オートエンコーダーを用いるが、複雑な系では依然として課題である。

実験結果

リサーチクエスチョン

• RQ1 システム固有の解析的モデルに依存せずに、ディープラーニングモデルによるダイナミクスを物理的に整合性を持たせることは可能か？
• RQ2 同一のディープラーニングアーキテクチャが、共有パラメータを用いて前向き・逆運動学・エネルギーモデルを学習可能であり、エネルギー保存則を満たすか？
• RQ3 物理的制約付きモデルは、ブラックボックスディープネットワークと比較して、長期予測および制御においてどの程度優れた性能を示すか？
• RQ4 観測ノイズや部分的状態観測の下でも、物理的インスピレーションを持つモデルは実世界のロボットシステムに一般化可能か？
• RQ5 現在の物理的制約付きネットワークは、多点接触ダイナミクスや非観測一般化座標を扱う際、どのような限界を示すか？

主な発見

• DeLaNモデルは、Euler-Lagrange方程式の残差に基づく物理的整合性の強制により、標準的なブラックボックスディープネットワークよりも長期予測精度が優れている。
• 物理的制約付きモデルは系のエネルギーを保存するが、これは安定な長時間スパンの制御およびシミュレーションにおいて極めて重要である。
• DeLaNは、学習済みモデルから直接、系のエネルギー、運動量、重力加速度を計算可能である。これはブラックボックスモデルでは得られない特徴である。
• 本手法は、観測ノイズがある中でも物理的ロボットシステムでリアルタイム制御性能を達成しており、実用的応用の可能性を示している。
• 一般化座標が観測可能な場合、DeLaNとハミルトニアンニューラルネットワーク（HNN）はほぼ同等の性能を示すが、構造的予測タスクではDeLaNがブラックボックスモデルを著しく上回る。
• 本手法は、運動学的構造を必要とせず、データから直接系のエネルギーを学習できる最初のディープラーニングベースの手法であり、従来はシステム同定法でのみ可能であった。