[論文レビュー] Extending Lagrangian and Hamiltonian Neural Networks with Differentiable Contact Models

Yaofeng Desmond Zhong, Biswadip Dey+1 more|arXiv (Cornell University)|Feb 12, 2021

Model Reduction and Neural Networks被引用数 12

ひとこと要約

本論文は、摩擦的・弾性的・非弾性的接触と不連続な状態遷移を扱えるように、ラグランジュ型およびハミルトニアン型ニューラルネットワークを拡張する微分可能接触モデルを提案する。凸最適化に基づく接触力学と微分可能物理学を統合することで、軌道データからシステムの運動および接触特性をエンドツーエンドで学習可能となるフレームワークを実現し、2次元／3次元系における複雑な接触行動の高効率かつ高精度なシミュレーションを達成する。

ABSTRACT

The incorporation of appropriate inductive bias plays a critical role in learning dynamics from data. A growing body of work has been exploring ways to enforce energy conservation in the learned dynamics by encoding Lagrangian or Hamiltonian dynamics into the neural network architecture. These existing approaches are based on differential equations, which do not allow discontinuity in the states and thereby limit the class of systems one can learn. However, in reality, most physical systems, such as legged robots and robotic manipulators, involve contacts and collisions, which introduce discontinuities in the states. In this paper, we introduce a differentiable contact model, which can capture contact mechanics: frictionless/frictional, as well as elastic/inelastic. This model can also accommodate inequality constraints, such as limits on the joint angles. The proposed contact model extends the scope of Lagrangian and Hamiltonian neural networks by allowing simultaneous learning of contact and system properties. We demonstrate this framework on a series of challenging 2D and 3D physical systems with different coefficients of restitution and friction. The learned dynamics can be used as a differentiable physics simulator for downstream gradient-based optimization tasks, such as planning and control.

研究の動機と目的

• 接触や衝突に起因する不連続な運動を扱えない既存のラグランジュ型およびハミルトニアン型ニューラルネットワークの限界を解消すること。
• 摩擦的・弾性的・非弾性的接触力学を捉えつつ、滑らかな軌道セグメントではエネルギー保存則を満たす微分可能接触モデルの開発。
• 観測された軌道データから、システムの運動および未知の接触パラメータ（例：回復係数、摩擦係数）を同時に学習可能にすること。
• 本フレームワークが、計画や制御などの下流の勾配ベース最適化タスクに有効な微分可能物理学シミュレータとして機能することを実証すること。

提案手法

• 接触インパulseの計算を凸最適化問題として定式化し、接触時の速度ジャンプを求める一方で、法線力が非負であることや最大エネルギー散逸が保たれることなどの物理的制約を満たす。
• 最近の凸ソルバーの微分可能性に関する進展を活用して最適化問題を微分可能とし、接触イベントを経由したバックプロパゲーションを可能にする。
• 微分可能接触モデルをラグランジュ型およびハミルトニアン型ニューラルネットワークのアーキテクチャに統合し、滑らかな運動フェーズでもエネルギー保存則を維持する。
• 先行研究で示されたように、学習性能の向上のため、キャタピラー座標を用い、関節角制限などの不等式制約もサポートする。
• 軌道データを用いてエンドツーエンドでモデルを訓練し、軌道予測誤差を最小化する損失関数と接触パラメータの正則化を組み合わせる。
• 本フレームワークは、2次元および3次元の物理系（振り子、ロープ、ロボットアームなど）に対して評価され、回復係数や摩擦係数の変動を含むさまざまな条件で検証された。

実験結果

リサーチクエスチョン

• RQ1 ラグランジュ型およびハミルトニアン型ニューラルネットワークに微分可能接触モデルを統合することで、接触や衝突に起因する不連続な運動をモデル化できるか？
• RQ2 限られた軌道データから、未知のシステムの運動および接触特性（例：摩擦、回復係数）を同時に学習できるか、その性能はいかほどか？
• RQ3 微分可能接触力学を組み込むことで、標準的なニューラルODEやベースラインモデルと比較して、データ効率および一般化性能が向上するか？
• RQ4 複数の接触や高自由度系を含む複雑な接触状況下でも、本フレームワークは良好な性能を示すか？
• RQ5 学習したモデルが、計画や制御などの下流タスクに有効な微分可能物理学シミュレータとして機能できるか？

主な発見

• 提案されたCM-CD-CLNNモデルは、12,800件のトレーニング軌道を用いたロープ系において、1.20e-3（95%信頼区間2.88e-4）の相対誤差を達成し、ベースラインと比較して顕著なデータ効率の優位性を示した。
• わずか25件のトレーニング軌道でも、1.20e-3の低誤差を維持でき、強い物理的事前知識のおかげで高いデータ効率を実現した。
• アブレーションスタディの結果、データから接触パラメータ（μおよびeP）を学習した場合、μの平均誤差は0.453、ePは0.861となり、真値（0.500および0.800）に近い値を示した。
• 小規模なネットワーク（3層、256ユニット）で最も優れた性能を示したため、物理的インダクティブバイアスのおかげで過剰パラメータ化を避けつつも、正確なポテンシャルエネルギー推定が可能であることが示された。
• 接触が豊富な状況（D=400）では、提案モデルとベースラインとの性能差が最小限に抑えられ、高次元接触構成における潜在的な限界を示唆した。
• フレームワークは微分可能シミュレーションを成功裏に実現し、勾配ベース最適化による下流の計画タスクにおける有効性を実証した。