[논문 리뷰] Learning stochastic dynamical systems with neural networks mimicking the Euler-Maruyama scheme

Najoua Dridi, Lucas Drumetz외 1명|arXiv (Cornell University)|2021. 05. 18.

Model Reduction and Neural Networks참고 문헌 27인용 수 6

한 줄 요약

이 논문은 최대우도 기반으로 훈련된 깊은 신경망을 사용해 확률적 미분 방정식(SDE)을 학습하기 위해 오일러-마루야마 스킴을 모방하는 신경망 기반 방법을 제안한다. 이 방법은 확률적 로렌츠-63 모델과 기하 브라운 motion에서 혼돈적인 애트랙터 구조와 확률적 변동을 정확히 포착함으로써, 특히 높은 노이즈 조건에서 기준 방법들을 능가한다.

ABSTRACT

Stochastic differential equations (SDEs) are one of the most important representations of dynamical systems. They are notable for the ability to include a deterministic component of the system and a stochastic one to represent random unknown factors. However, this makes learning SDEs much more challenging than ordinary differential equations (ODEs). In this paper, we propose a data driven approach where parameters of the SDE are represented by a neural network with a built-in SDE integration scheme. The loss function is based on a maximum likelihood criterion, under order one Markov Gaussian assumptions. The algorithm is applied to the geometric brownian motion and a stochastic version of the Lorenz-63 model. The latter is particularly hard to handle due to the presence of a stochastic component that depends on the state. The algorithm performance is attested using different simulations results. Besides, comparisons are performed with the reference gradient matching method used for non linear drift estimation, and a neural networks-based method, that does not consider the stochastic term.

연구 동기 및 목표

• 시간 시리즈 데이터에서 알려지지 않은 드리프트 및 확산 성분을 가진 확률적 동역학 시스템을 데이터 기반으로 학습하는 방법을 개발하는 것.
• 상태에 의존적인 확률적 성질과 높은 노이즈 수준을 포함하는 시스템에서 SDE 파라미터를 추정하는 과제를 해결하는 것.
• 기존의 기울기 매칭 및 ODE 기반 신경망 방법이 확률적 동역학을 포착하지 못하는 데서 비롯된 문제를 개선하는 것.
• 안정적이고 미분 가능한 SDE 시뮬레이션을 위해 오일러-마루야마 적분 스킴을 신경망 아키텍처에 직접 통합하는 것.
• 상수(기하 브라운 motion) 및 복잡한 혼돈 시스템(확률적 로렌츠-63)에 대해 제안된 방법을 검증하는 것, 여기서는 상태에 의존적인 노이즈가 존재한다.

제안 방법

• SDE의 드리프트 및 확산 함수를 두 개의 별도된 깊은 신경망(Bi-NN-SDE)으로 매개변수화한다.
• 신경망 아키텍처 내부에서 미분 가능한 오일러-마루야마 스킴의 구현을 사용해 SDE를 수치적으로 통합한다.
• 관측된 궤적의 1단계 앞선 예측 밀도 기반 최대우도 기준으로 네트워크를 훈련시킨다.
• 상태 전이에 대해 마르코프성과 가우시안 가정을 두어 최적화를 위한 가능도 함수를 정의한다.
• 백프로파게이션 스루 타임을 통해 손실를 최적화함으로써 SDE 파라미터의 엔드 투 엔드 훈련을 가능하게 한다.
• 기준 방법들과의 성능 비교: 표준 Bi-NN(SDE를 ODE로 간주), 기울기 매칭, 비확률적 신경망.

실험 결과

연구 질문

• RQ1 오일러-마루야마 스킴을 내장한 신경망 아키텍처는 ODE 기반 또는 기울기 매칭 방법보다 상태에 의존적인 노이즈가 있는 SDE를 더 정확히 학습할 수 있는가?
• RQ2 혼돈 시스템에서 다양한 노이즈 수준에서 제안된 방법은 드리프트 및 확산 성분을 얼마나 잘 추정하는가?
• RQ3 높은 노이즈 조건에서 진짜 확률적 애트랙터의 위상적 구조(예: 로렌츠-63의 나비 모양)를 어느 정도 유지하는가?
• RQ4 내장된 SDE 적분 스킴의 포함이 표준 신경 ODE보다 일반화 능력과 안정성 향상에 기여하는가?
• RQ5 물리적으로 타당한 경우에 확산 행렬의 0 계수를 효과적으로 식별할 수 있는가, 이로 인해 추정 성능이 떨어지지 않는가?

주요 결과

• 고노이즈 조건(γ=10)에서의 확률적 로렌츠-63 모델에 대해 Bi-NN-SDE 방법은 드리프트 및 확산 추정에서 평균 RMSE 0.522를 기록하였으며, Bi-NN 방법( RMSE = 0.601)보다 유의미하게 뛰어났다.
• Bi-NN-SDE 방법은 비영계수의 RMSE를 최대 38%까지 감소시켰으며, 모든 계수에서 최소 8%의 개선을 보였다.
• 고노이즈(γ=10) 조건에서 100개의 시뮬레이션 궤적 중 90%에서 Bi-NN-SDE는 나비 모양의 애트랙터 위상 구조를 정확히 재현했고, Bi-NN는 단지 60%의 경우에서 성공했다.
• Bi-NN-SDE 방법은 확률적 변동을 정확히 포착한 반면, Bi-NN 및 기울기 매칭 방법은 확률성을 모델링하지 못해 종종 단일 애트랙터 지점으로 수렴했다.
• 기울기 매칭 방법은 다양한 훈련 궤적에서 일관되지 않은 애트랙터를 생성하여 일반화 능력 부족과 확률적 충실도 결여를 보였다.
• 노이즈에 대한 강건성은 입증되었으며, 노이즈가 γ=50에서 γ=10으로 증가함에 따라 RMSE는 다소 증가(0.322에서 0.601로)했지만 추정의 분산은 낮게 유지되었다.