[논문 리뷰] Combining Physics and Deep Learning to learn Continuous-Time Dynamics Models

Michael Lutter, Jan Peters|arXiv (Cornell University)|2021. 10. 05.

Model Reduction and Neural Networks인용 수 10

한 줄 요약

이 논문은 라그랑주 역학과 신경망을 결합하여 연속 시간 역학 모델을 학습하는 물리 원리에 기반한 딥러닝 프레임워크인 딥 라그랑주 네트워크(DeLaN)를 소개한다. 오일러-라그랑주 미분방정식 잔여항을 최소화함으로써 DeLaN은 에너지 보존과 물리적 타당성을 보장하며, 해석 가능한 정방향, 역방향 및 에너지 모델을 가능하게 한다. 이는 시뮬레이션 및 물리적 강체에서 장기 예측과 실시간 제어에서 블랙박스 네트워크를 능가한다.

ABSTRACT

Deep learning has been widely used within learning algorithms for robotics. One disadvantage of deep networks is that these networks are black-box representations. Therefore, the learned approximations ignore the existing knowledge of physics or robotics. Especially for learning dynamics models, these black-box models are not desirable as the underlying principles are well understood and the standard deep networks can learn dynamics that violate these principles. To learn dynamics models with deep networks that guarantee physically plausible dynamics, we introduce physics-inspired deep networks that combine first principles from physics with deep learning. We incorporate Lagrangian mechanics within the model learning such that all approximated models adhere to the laws of physics and conserve energy. Deep Lagrangian Networks (DeLaN) parametrize the system energy using two networks. The parameters are obtained by minimizing the squared residual of the Euler-Lagrange differential equation. Therefore, the resulting model does not require specific knowledge of the individual system, is interpretable, and can be used as a forward, inverse, and energy model. Previously these properties were only obtained when using system identification techniques that require knowledge of the kinematic structure. We apply DeLaN to learning dynamics models and apply these models to control simulated and physical rigid body systems. The results show that the proposed approach obtains dynamics models that can be applied to physical systems for real-time control. Compared to standard deep networks, the physics-inspired models learn better models and capture the underlying structure of the dynamics.

연구 동기 및 목표

• 로봇 공학에서 블랙박스 딥 네트워크의 한계를 해결하기 위해, 물리 원리를 忽시하고 비물리적 역학을 유도할 수 있는 문제를 해결한다.
• 일차원 물리 원리와 딥러닝을 통합하여 일반화 능력과 해석 가능성 향상을 위한 모델 학습 프레임워크를 개발한다.
• 동일한 아키텍처를 사용하여 동일한 파rameter 세트로 정방향, 역방향 및 에너지 모델을 학습할 수 있도록 한다.
• 관측 노이즈와 부분 상태 관측 가능성 조건 하에서도 실세계 로봇 시스템에 물리적 영감을 받은 모델을 확장한다.
• 복잡한 접촉과 비완전 관측 상태를 다룰 때 기존의 물리 원리에 기반한 네트워크의 일반화 부족 문제를 해결한다.

제안 방법

• DeLaN은 시스템의 운동에너지와 위치에너지 각각을 별도의 딥 네트워크로 파arameter화한다.
• 네트워크 파rameter는 오일러-라그랑주 미분방정식의 제곱 잔여항을 최소화하여 최적화되며, 물리적 일致성을 강제한다.
• 이 방법은 에너지 보존을 보장하고, 시스템의 정의된 구조를 명시적으로 요구하지 않아도 운동 법칙을 따르는 학습된 역학을 보장한다.
• 동일한 네트워크 파rameter를 사용하여 정방향 역학, 역방향 역학 및 시스템 에너지를 계산할 수 있어 다중 작업 모델링이 가능하다.
• 이 방법은 시뮬레이션 및 실제 로봇 시스템(예: 단순 진자 및 로봇 암)에 적용되었으며, 실시간 제어 성능이 평가되었다.
• 확장 사례로는 이미지에서 일반화된 좌표를 추론하기 위해 변분 오토인코더를 사용한 사례가 있으나, 복잡한 시스템에선 여전히 도전 과제로 남아 있다.

실험 결과

연구 질문

• RQ1 시스템 전용 분석 모델에 의존하지 않고도 딥러닝 기반의 역학 모델을 물리적으로 일치시킬 수 있는가?
• RQ2 동일한 파rameter를 공유하는 단일 딥러닝 아키텍처가 에너지 보존을 유지하면서 정방향, 역방향 및 에너지 모델을 동시에 학습할 수 있는가?
• RQ3 물리 원리에 기반한 모델의 성능은 장기 예측 및 제어에서 블랙박스 딥 네트워크와 비교해 어떻게 되는가?
• RQ4 관측 노이즈와 부분 상태 관측 가능성 조건 하에서도 물리적 영감을 받은 모델은 실세계 로봇 시스템에 일반화될 수 있는가?
• RQ5 현재의 물리 원리에 기반한 네트워크는 다중 접촉 역학과 관측되지 않은 일반화된 좌표를 다룰 때 어떤 한계를 지니는가?

주요 결과

• DeLaN 모델은 오일러-라그랑주 잔여항을 통한 물리 일치성 강제로 인해 표준 블랙박스 딥 네트워크보다 장기 예측 정확도가 뛰어나다.
• 물리 원리에 기반한 모델은 시스템 에너지를 보존하며, 이는 안정적인 장기 제어 및 시뮬레이션에 필수적이다.
• DeLaN은 학습된 모델에서 직접적으로 시스템 에너지, 운동량, 중력력을 계산할 수 있으며, 이는 블랙박스 모델에서 확보할 수 없는 기능이다.
• 이 방법은 관측 노이즈가 존재하는 실제 로봇 시스템에서도 실시간 제어 성능을 달성하여 실용적 적용 가능성을 입증했다.
• 일반화된 좌표가 관측 가능한 조건에서는 DeLaN과 해밀토니안 신경망(HNN)의 성능이 거의 동일하지만, DeLaN은 구조적 예측 작업에서 블랙박스 모델을 크게 앞서간다.
• 이 방법은 이전에는 시스템 식별을 통해만 가능했던, 운동학적 구조를 요구하지 않고도 데이터로부터 직접적으로 시스템 에너지를 학습하는 데에 있어 딥러닝 기반의 첫 번째 접근법이다.