[논문 리뷰] Extending Lagrangian and Hamiltonian Neural Networks with Differentiable Contact Models

Yaofeng Desmond Zhong, Biswadip Dey외 1명|arXiv (Cornell University)|2021. 02. 12.

Model Reduction and Neural Networks인용 수 12

한 줄 요약

이 논문은 마찰성, 탄성 및 비탄성 접촉과 불연속적 상태 전이를 다룰 수 있도록 라그랑주 및 해밀토니안 신경망을 확장하는 미분 가능 접촉 모델을 제안한다. 볼록 최적화 기반 접촉 역학과 미분 가능 물리학을 통합함으로써, 궤적 데이터로부터 시스템 역학과 접촉 특성을 종단 간 학습할 수 있으며, 2D/3D 시스템에서 복잡한 접촉 행동을 위한 높은 데이터 효율성과 정확한 시뮬레이션을 달성한다.

ABSTRACT

The incorporation of appropriate inductive bias plays a critical role in learning dynamics from data. A growing body of work has been exploring ways to enforce energy conservation in the learned dynamics by encoding Lagrangian or Hamiltonian dynamics into the neural network architecture. These existing approaches are based on differential equations, which do not allow discontinuity in the states and thereby limit the class of systems one can learn. However, in reality, most physical systems, such as legged robots and robotic manipulators, involve contacts and collisions, which introduce discontinuities in the states. In this paper, we introduce a differentiable contact model, which can capture contact mechanics: frictionless/frictional, as well as elastic/inelastic. This model can also accommodate inequality constraints, such as limits on the joint angles. The proposed contact model extends the scope of Lagrangian and Hamiltonian neural networks by allowing simultaneous learning of contact and system properties. We demonstrate this framework on a series of challenging 2D and 3D physical systems with different coefficients of restitution and friction. The learned dynamics can be used as a differentiable physics simulator for downstream gradient-based optimization tasks, such as planning and control.

연구 동기 및 목표

• 기존의 라그랑주 및 해밀토니안 신경망이 접촉과 충돌로 인한 비연속적 역학을 모델링하는 데에 한계가 있음을 해결하기 위해.
• 마찰성, 탄성 및 비탄성 접촉 역학을 포괄하면서도 매끄러운 궤적 세그먼트 동안 에너지 보존을 강제하는 미분 가능 접촉 모델을 개발하기 위해.
• 관측된 궤적 데이터로부터 시스템 역학과 알려지지 않은 접촉 파rameter(예: 복원 계수, 마찰 계수)를 함께 학습할 수 있도록 하기 위해.
• 이 프레임워크를 후행적 기울기 기반 최적화 작업(예: 계획 및 제어)을 위한 미분 가능 물리 시뮬레이터로 활용할 수 있음을 보여주기 위해.

제안 방법

• 접촉 임펄스 계산을 볼록 최적화 문제로 공식화하여, 접촉 시 속도 변화를 구하고, 정규력이 음이 아니고 최대 소산이 이루어지도록 물리적 제약 조건을 강제한다.
• 최근의 볼록 솔버를 통한 미분 가능화 기술을 활용하여 최적화 문제를 미분 가능하게 만들었으며, 접촉 사건을 거쳐 역전파가 가능하도록 한다.
• 미분 가능 접촉 모델을 라그랑주 및 해밀토니안 신경망 아키텍처에 통합하여, 매끄러운 운동 단계 동안 에너지 보존을 유지한다.
• 이전 연구에서 보여진 바와 같이, 학습 성능 향상을 위해 카르테시안 좌표계를 사용하며, 관절 각도 제한과 같은 부등식 제약 조건도 지원한다.
• 모델은 궤적 데이터를 사용해 종단 간으로 훈련되며, 궤적 예측 오차를 최소화하고 접촉 파rameter를 정규화하는 손실 함수를 사용한다.
• 프레임워크는 2D 및 3D 물리 시스템(예: 진자, 밧줄, 로봇 암)에 대해 평가되었으며, 복원 계수 및 마찰 계수의 다양성에 따라 테스트되었다.

실험 결과

연구 질문

• RQ1 라그랑주 및 해밀토니안 신경망에 미분 가능 접촉 모델을 통합하여 접촉과 충돌로 인한 비연속적 역학을 모델링할 수 있는가?
• RQ2 제한된 궤적 데이터로부터 시스템 역학과 알려지지 않은 접촉 특성(예: 마찰, 복원 계수)을 함께 학습할 수 있는가?
• RQ3 표준 신경 ODE 또는 기준 모델과 비교해, 미분 가능 접촉 역학의 통합이 데이터 효율성과 일반화 능력을 향상시키는가?
• RQ4 다중 또는 고차원 자유도를 가진 시스템에서 접촉 복잡도가 높아질 경우, 프레임워크는 어떻게 성능을 보이는가?
• RQ5 학습된 모델이 후행적 계획 및 제어 작업을 위한 효과적인 미분 가능 물리 시뮬레이터로 활용될 수 있는가?

주요 결과

• 제안된 CM-CD-CLNN 모델은 12,800개의 훈련 궤적을 사용한 밧줄 시스템에서 궤적 상대 오차 1.20e-3(95% 신뢰구간 2.88e-4)를 달성하여, 기준 모델들보다 뛰어난 데이터 효율성을 보였다.
• 단지 25개의 훈련 궤적만으로도 오차가 1.20e-3로 낮게 유지되어, 강력한 물리적 사전 지식 덕분에 뛰어난 데이터 효율성을 입증하였다.
• 제거 실험 결과, 데이터로부터 접촉 파rameter(μ 및 eP)를 학습할 경우, μ의 평균 오차는 0.453, eP의 평균 오차는 0.861로 진짜 값인 0.500과 0.800에 매우 가까웠다.
• 작은 네트워크(3층, 256개 뉴런)에서 성능이 가장 우수하여, 물리적 인덕티브 바이어스 덕분에 과도한 파rameter화 없이도 정확한 잠재 에너지 추정이 가능함을 시사한다.
• 접촉 빈도가 높은 상황(D=400)에서는 제안된 모델과 기준 모델 간 성능 격차가 미미하여, 매우 복잡한 접촉 구성에서 잠재적인 한계가 있음을 시사한다.
• 프레임워크는 성공적으로 미분 가능 시뮬레이션을 가능하게 하였으며, 기울기 기반 최적화를 통한 후행적 계획 작업에서의 유용성을 입증하였다.