[논문 리뷰] Data-Driven Identification of Quadratic Representations for Nonlinear Hamiltonian Systems using Weakly Symplectic Liftings

Süleyman Yıldız, Pawan Goyal외 2명|arXiv (Cornell University)|2023. 08. 02.

Model Reduction and Neural NetworksPhysics and Astronomy인용 수 3

한 줄 요약

이 논문은 약한 심플렉틱 오토에인코더를 사용해 상태 공간을 업그레이드함으로써 비선형 동역학계의 이차 해밀토니안 시스템을 데이터 기반으로 식별하는 프레임워크를 제안한다. 이는 구조를 유지하는 저복잡도 모델링과 장기적 안정성을 보장하며, 변환된 좌표계에서 학습된 삼차 해밀토니안을 통해 저차원 및 고차원 시스템 모두에서 정확한 동역학을 달성한다.

ABSTRACT

This repository contains the Python implementation using the PyTorch framework to learn Quadratic Hamiltonian systems.

연구 동기 및 목표

• 기존 방정식에 대한 지식 없이 궤적 데이터로부터 이차 해밀토니안 시스템을 식별하기 위한 데이터 기반 방법을 개발하는 것.
• 모델 복잡도를 최소화하면서도 올린 좌표계에서 해밀토니안 구조를 강제로 적용하기 위해 삼차 해밀토니안 공식화를 사용하는 것.
• 낮은 차원의 잠재 동역학을 학습함으로써 고차원 해밀토니안 시스템의 차원 감소를 가능하게 하되, 심플렉틱 구조를 유지하는 것.
• 구조 보존 학습을 통해 미학습된 초기 조건에 대한 장기적 안정성과 정확한 외삽을 보장하는 것.
• 비침습적 비선형 모델 순서 감소를 위해 약하게 강제된 심플렉틱 변환과 강하게 강제된 해밀토니안 역학을 조합하는 것.

제안 방법

• 신경망 기반 오토에인코더를 사용해 원래 상태 공간을 더 높은 차원의 좌표계로 업그레이드하여, 여기서 동역학이 이차가 되도록 하는 것.
• 손실 함수에 정규화 항을 통해 변환의 심플렉틱 구조를 약하게 강제하여, 매핑이 심플렉틱 형식을 근사적으로 유지하도록 하는 것.
• 업그레이드된 공간에서 삼차 해밀토니안 함수를 학습하여 이차 동역학을 유도함으로써 저복잡도 모델링을 가능하게 하는 것.
• 훈련 안정성과 재구성 정확도를 향상시키기 위해 스킵 연결과 SELU 활성화 함수를 사용한 딥 신경망 아키텍처를 사용하는 것.
• 재구성 오차, 심플렉틱성 정규화, 해밀토니안 구조 강제를 통한 역학 일致성의 복합 손실을 조합하여 오토에인코더를 엔드 투 엔드로 훈련하는 것.
• 고차원 데이터의 경우, 동일한 프레임워크를 적용해 구조를 유지하는 효율적인 잠재 공간을 학습함으로써 차원 감소를 달성하는 것.

Figure 3.1 : The auto-encoder structure of the symplectic lifting method. Here, the encoder $\psi:\mathbb{R}^{2n}\to\mathbb{R}^{2N}$ is weakly enforced to be a symplectic mapping and the quadratic system is enforced to be Hamiltonian.

실험 결과

연구 질문

• RQ1 비선형 해밀토니안 시스템은 올린 좌표 공간에서 효과적으로 이차 시스템으로 표현될 수 있는가?
• RQ2 데이터 기반 오토에인코더에서 심플렉틱 구조를 어떻게 약하게 강제할 수 있으며, 이는 동역학의 기하적 성질을 유지하는 데 어떻게 기여하는가?
• RQ3 올린 공간에서의 삼차 해밀토니안은 저복잡도이고 안정적인 이차 동역학계를 유도할 수 있는가?
• RQ4 이 프레임워크는 얼마나 정확하게 미학습된 초기 조건에서의 궤적을 장기적으로 외삽할 수 있는가?
• RQ5 이 방법은 고차원 해밀토니안 시스템에서 얼마나 효과적인가? 특히, 구조를 유지하면서 차원 감소를 수행하는 데 있어 어떤가?

주요 결과

• 이 방법은 데이터로부터 이차 해밀토니안 동역학을 성공적으로 학습하여, 훈련 기간을 초월한 장기적 외삽에서도 안정성을 확보한다.
• 저차원 시스템의 경우, 동역학이 이차이고 해밀토니안이 삼차인 4차원의 올린 공간을 식별함으로써 낮은 모델 복잡도를 보장한다.
• 비선형 슈뢰딩거 방정식과 파동 방정식과 같은 고차원 시스템에서는 2 또는 4차원의 잠재 공간을 학습하여 해밀토니안 구조를 유지하고 정확한 동역학 예측을 가능하게 한다.
• 약한 심플렉틱 오토에인코더는 재구성, 심플렉틱성, 역학 일치성의 손실 감소가 균형을 이루며, 초모수는 실험적으로 조정되었다.
• 모델은 미학습된 초기 조건으로도 잘 일반화되어 유사한 데이터 분포 하에서 궤적 예측에 대해 뛰어난 강건성을 보였다.
• 원래 시스템 방정식에 접근할 수 없더라도 데이터로부터 직접 잠재 동역학을 학습함으로써 비침습적이고 구조를 보존하는 모델 순서 감소를 가능하게 한다.

Figure 4.1 : The auto-encoder structure of the symplectic reduction method. Here, the decoder $\phi:\mathbb{R}^{2n}\to\mathbb{R}^{2N}$ is weakly enforced to be a symplectic mapping and the quadratic system is enforced to be Hamiltonian.