[논문 리뷰] Simplifying Hamiltonian and Lagrangian Neural Networks via Explicit Constraints

Marc Finzi, Ke Alexander Wang외 1명|arXiv (Cornell University)|2020. 10. 26.

Computational Physics and Python Applications인용 수 40

한 줄 요약

이 논문은 라그랑주 멀티플라이어를 통한 명시적 제약을 가진 직교 좌표에서 해밀토니언과 라그랑지안을 학습하는(CHNNs와 CLNNs) 방법이 명시적 제약이 없는 방법에 비해 정확도와 데이터 효율성을 크게 향상시키며, 특히 혼돈 계와 확장된 물체 계에 대해 그렇다는 것을 보여준다.

ABSTRACT

Reasoning about the physical world requires models that are endowed with the right inductive biases to learn the underlying dynamics. Recent works improve generalization for predicting trajectories by learning the Hamiltonian or Lagrangian of a system rather than the differential equations directly. While these methods encode the constraints of the systems using generalized coordinates, we show that embedding the system into Cartesian coordinates and enforcing the constraints explicitly with Lagrange multipliers dramatically simplifies the learning problem. We introduce a series of challenging chaotic and extended-body systems, including systems with N-pendulums, spring coupling, magnetic fields, rigid rotors, and gyroscopes, to push the limits of current approaches. Our experiments show that Cartesian coordinates with explicit constraints lead to a 100x improvement in accuracy and data efficiency.

연구 동기 및 목표

• 다이나믹스를 학습시키기 위한 물리적 제약을 포착하는 귀납적 편향의 필요성 제시.
• 일반 좌표에서 명시적 제약 강제화를 포함한 직교 좌표로의 전환 제안.
• 구속된 해밀토니언 신경망(CHNNs) 및 구속된 라그랑지안 신경망(CLNNs) 개발.
• 강체 확장 물체 계와 복잡한 3D 다이나믹스에의 적용 가능성 시연.

제안 방법

• 해당 문제를 직교 좌표로 내재화하여 학습할 해밀토니언/라그랑지안 함수를 단순화한다.
• 람지 멀티플라이어를 이용하여 holonomic 제약을 명시적으로 강제하고 확장된 작용 S[z, λ]를 사용한다.
• 투사 P(z)와 dy/dt 방정식 ẋ = P(z)J∇H(z) (또는 유사한 라그랑지안 형태)를 사용하여 구속된 다이나믹스를 도출한다.
• 질량 행렬을 매개변수화하고 신경망으로 H 또는 L을 학습하며 학습된 M^{-1} 및 블록 대각 구조를 사용한다.
• 거리 제약과 프로그래머블 제약 그래프를 갖춘 확장 강체를 직교 좌표에 내재화하는 프레임워크를 제공한다.

실험 결과

연구 질문

• RQ1 명시적 제약을 갖춘 직교 좌표 내재화가 일반 좌표에 비해 학습된 해밀토니언/라그랑지안을 단순화하는가?
• RQ2 CHNNs와 CLNNs가 HNNs 및 DeLaNs와 같은 암시적 방법보다 혼돈 및 3D 확장 물체 시스템에서 더 높은 정확도와 데이터 효율성을 달성할 수 있는가?
• RQ3 확장 강체와 관절을 해밀토니언/라그랑지안 학습을 위해 직교 좌표로 어떻게 표현할 수 있는가?
• RQ4 명시적 제약을 사용할 때 장기 궤적 예측과 에너지 보존에 미치는 영향은 무엇인가?
• RQ5 제안된 접근법이 도전적 물리 시스템(N-진자, 자석 진자, 자이로스코프, 강체 회전자) 집합에서 얼마나 효과적인가?

주요 결과

• 직교 좌표 표현은 학습하기 더 쉬운 단순한 해밀토니언/라그랑지안을 산출한다.
• CHNNs/CLNNs는 테스트 시스템에서 HNNs 및 DeLaNs에 비해 정확도와 데이터 효율성에서 10배에서 100배의 향상을 달성한다.
• 라그랑주 승수로 인한 명시적 제약은 혼돈 및 3D 확장 물체 다이나믹스에 대해 정확한 장기 예측을 가능하게 한다.
• 직교 좌표의 질량 행렬은 Cholesky 기반 매개변수화를 사용하여 양의 준정부 구조로 학습될 수 있다.
• 이 프레임워크는 제약 그래프와 거리/관절 제약을 사용하여 임의 차원에서 확장 물체와 관절을 내재화하는 것을 지원한다.