[논문 리뷰] Learning Poisson systems and trajectories of autonomous systems via Poisson neural networks

Pengzhan Jin, Zhen Zhang외 2명|arXiv (Cornell University)|2020. 12. 05.

Computational Physics and Python Applications인용 수 5

한 줄 요약

이 논문은 다르부-라이 정리(Darboux-Lie theorem)를 활용하여 고전역학계의 파동함수와 자율동역계의 궤적을 학습하는 물리정보 기반 딥러닝 프레임워크인 포아송 신경망(Poisson Neural Networks, PNNs)을 소개한다. PNNs는 단위변환, 심플렉틱 변환, 역변환으로 구성된 위상공간 흐름을 분해하며, 기하학적 구조 유지 보장을 위해 물리적 사전지식을 반영한 구조적 신경망을 사용하여 전자기 입자 운동, 비선형 샤크로비치 역학, 픽셀 데이터로부터의 이중체 문제를 포함한 복잡한 시스템의 높은 정확도 학습을 달성한다.

ABSTRACT

We propose the Poisson neural networks (PNNs) to learn Poisson systems and trajectories of autonomous systems from data. Based on the Darboux-Lie theorem, the phase flow of a Poisson system can be written as the composition of (1) a coordinate transformation, (2) an extended symplectic map and (3) the inverse of the transformation. In this work, we extend this result to the unknotted trajectories of autonomous systems. We employ structured neural networks with physical priors to approximate the three aforementioned maps. We demonstrate through several simulations that PNNs are capable of handling very accurately several challenging tasks, including the motion of a particle in the electromagnetic potential, the nonlinear Schr{ö}dinger equation, and pixel observations of the two-body problem.

연구 동기 및 목표

• 기본 역학이 캐논리컬 형태가 아니더라도 데이터로부터 포아송 시스템과 그 궤적을 학습할 수 있는 신경망 아키텍처를 개발하는 것.
• 해밀턴계를 초월하여 일반 포아송 시스템, 즉 비캐논리컬 및 제약 조건이 있는 기계계를 포함한 심플렉틱 구조 유지 학습 프레임워크를 확장하는 것.
• 다르부-라이 정리를 활용하여 포아송 시스템의 위상공간 흐름을 좌표변환, 심플렉틱 매핑, 역변환으로 분해하여 구조적 학습을 가능하게 하는 것.
• 심플렉틱성과 역가능성과 같은 물리적 사전지식을 네트워크 구조에 통합하여 일반화 및 정확도를 향상시키는 신경망 아키텍처를 설계하는 것.
• 고차원 관측치(예: 픽셀 데이터)와 비캐논리컬 좌표를 포함한 도전적인 문제들에 대한 방법의 유효성을 입증하는 것.

제안 방법

• PNNs는 포아송 시스템의 위상공간 흐름을 세 구성요소로 분해한다: 캐논리컬 형태로의 좌표변환, 캐논리컬 좌표에서의 심플렉틱 매핑, 원래 좌표로의 역변환.
• 좌표변환은 역가능한 신경망(INNs)을 사용하여 모델링되며, 부피보존(NICE) 및 비부피보존(real NVP) 변형을 포함하여 역가능성과 미분 가능성 보장을 확보한다.
• 심플렉틱 매핑은 특수한 심플렉틱 모듈로 구성된 확장된 심플렉틱 신경망(E-SympNets)을 통해 구현되며, 변환된 해밀턴계의 심플렉틱 구조를 유지한다.
• 저차원 다양체의 경우, 고차원 데이터를 2d 잠재공간으로의 좌표변환을 학습하기 위해 오토에코더를 사용하며, 이곳에서 시스템은 해밀턴계로 간주된다.
• 전체 아키텍처는 데이터 일관성과 구조 보존을 강제하는 손실 함수를 사용하여 엔드 투 엔드로 훈련되며, 기하학적 성질을 유지하기 위해 물리정보 기반 정규화를 적용한다.
• 이 방법은 다르부-라이 정리에 기반하며, 이는 임의의 포아송 시스템이 국소적으로 캐논리컬 형태로 변환할 수 있음을 보장하여, 심플렉틱 통합기와 심플렉틱 신경망의 적용을 가능하게 한다.

실험 결과

연구 질문

• RQ1 딥러닝 아키텍처는 시스템이 캐논리컬 좌표가 아니더라도 일반 포아송 시스템의 위상공간 흐름을 데이터로부터 학습할 수 있는가?
• RQ2 특히 심플렉틱성과 미분동형 구조와 같은 물리적 사전지식을 신경망에 어떻게 통합하여 동역계 학습의 정확도와 일반화 능력을 향상시킬 수 있는가?
• RQ3 PNNs는 이중체 시스템의 픽셀 관측치로부터 궤적과 역학을 얼마나 정확히 재구성할 수 있는가?
• RQ4 비캐논리컬 포아송 괄호를 가진 시스템, 예를 들어 비선형 샤크로비치 방정식이나 전자기장 내에서의 전하 입자 운동을 처리할 수 있는가?
• RQ5 위상공간 흐름을 좌표변환, 심플렉틱 매핑, 역변환으로 분해하는 방식이 표준 신경ODE나 HNN에 비해 학습 안정성과 정확도를 얼마나 향상시키는가?

주요 결과

• PNNs는 전자기 잠재력 내에서 입자의 운동을 성공적으로 학습하여 궤적을 정확히 재구성하고 기저의 포아송 구조를 유지한다.
• 복잡한 비캐논리컬 역학을 포함하여 데이터로부터 비선형 샤크로비치 방정식을 높은 정확도로 학습한다.
• PNNs는 픽셀 관측치로부터 이중체 문제의 역학을 재구성할 수 있으며, 고차원 이미지 기반 입력 데이터에 대한 강건성을 입증한다.
• 좌표변환에 대한 역가능한 신경망(INNs)의 사용은 고차원 데이터에서 캐논리컬 해밀턴 프레임워크로의 효과적인 차원 축소와 구조 유지 맵핑을 가능하게 한다.
• E-SympNets를 사용한 심플렉틱 매핑 통합은 학습된 역학이 심플렉틱 구조를 유지함을 보장하며, 이는 장기적 안정성과 정확도에 매우 중요하다.
• 특히 데이터가 캐논리컬 좌표가 아닐 경우, 비캐논리컬 포아송 괄호를 가진 시스템 학습에서 표준 신경ODE와 HNN보다 프레임워크가 뛰어난 성능을 보인다.