[論文レビュー] Simplifying Hamiltonian and Lagrangian Neural Networks via Explicit Constraints

Marc Finzi, Ke Alexander Wang+1 more|arXiv (Cornell University)|Oct 26, 2020

Computational Physics and Python Applications被引用数 40

ひとこと要約

本論文は、ラグランジュ乗数を介した明示的制約を用いたデカルト座標系でのハミルトニアンおよびラグランジアンの学習（CHNNs and CLNNs）が、暗黙的制約法と比較して、特にカオス系・長剛体系に対して精度とデータ効率を劇的に向上させることを示している。

ABSTRACT

Reasoning about the physical world requires models that are endowed with the right inductive biases to learn the underlying dynamics. Recent works improve generalization for predicting trajectories by learning the Hamiltonian or Lagrangian of a system rather than the differential equations directly. While these methods encode the constraints of the systems using generalized coordinates, we show that embedding the system into Cartesian coordinates and enforcing the constraints explicitly with Lagrange multipliers dramatically simplifies the learning problem. We introduce a series of challenging chaotic and extended-body systems, including systems with N-pendulums, spring coupling, magnetic fields, rigid rotors, and gyroscopes, to push the limits of current approaches. Our experiments show that Cartesian coordinates with explicit constraints lead to a 100x improvement in accuracy and data efficiency.

研究の動機と目的

• 物理的制約を捉える帰納的バイアスの必要性を動機付ける。
• 一般化座標からデカルト座標への移行と明示的な制約適用の提案。
• Constrained Hamiltonian Neural Networks (CHNNs) and Constrained Lagrangian Neural Networks (CLNNs)を開発する。
• 剛体の長大な系と複雑な3Dダイナミクスへの適用可能性を実証する。

提案手法

• 学習対象のハミルトニアン/ラグランジアン関数を簡略化するために問題をデカルト座標に埋め込む。
• ラグランジュ乗数と拡張作用 S[z, λ] を用いて、運動学的制約を明示的に課す。
• 射影 P(z) とダイナミクス方程式 ẋ = P(z)J∇H(z)（および対応するラグランジアン形）を用いて制約付きダイナミクスを導出する。
• 質量行列をパラメータ化し、ニューラルネットワークで H または L を学習する。学習された M^{-1} とブロック対角構造を用いる。
• 距離制約とプログラム可能な制約グラフを用いて、デカルト座標で拡張剛体を埋め込むためのフレームワークを提供する。

実験結果

リサーチクエスチョン

• RQ1 デカルト座標系で明示的な制約を埋め込むことは、一般化座標と比較して学習対象のハミルトニアン/ラグランジアン関数を単純化するか。
• RQ2 CHNNs and CLNNs は、カオスな系と3Dの拡張体系に対して、HNNsやDeLaNsなどの暗黙的アプローチよりも高い精度とデータ効率を達成できるか。
• RQ3 拡張剛体と関節をデカルト座標でハミルトニアン/ラグランジアンを学習するためにどのように表現できるか。
• RQ4 明示的な制約を使用した場合の長期軌道予測とエネルギー保存への影響はどうなるか。
• RQ5 提案手法の有効性は、N-pendulum、magnet pendulum、gyroscope、rigid rotor などの難易度の高い物理系のスイート全体でどの程度か。

主な発見

• デカルト座標系の定式化は、学習しやすいハミルトニアン/ラグランジアンを生み出す。
• CHNNs/CLNNsは、テスト系で HNNs と DeLaNs に対して精度とデータ効率を10倍〜100倍改善する。
• ラグランジュ乗数を用いた明示的制約は、カオスおよび3Dの拡張体ダイナミクスにおいて正確な長期予測を可能にする。
• デカルト座標系の質量行列は、Choleskyベースのパラメータ化を用いて正半正定値構造で学習可能。
• このフレームワークは、制約グラフと距離/関節制約を用いて任意の次元に拡張体を埋め込むことをサポートする。