[논문 리뷰] Optimal Transport for Parameter Identification of Chaotic Dynamics via Invariant Measures

Yunan Yang, Levon Nurbekyan외 3명|arXiv (Cornell University)|2021. 04. 30.

Model Reduction and Neural Networks참고 문헌 69인용 수 7

한 줄 요약

이 논문은 시간 도함수가 이용 가능하지 않은 경우에도 안정적이고 확장 가능한 매개변수 추정을 가능하게 하는, 새로운 최적 운반 기반 방법을 제안한다. 이는 위상수학적 측면에서 불변 측도를 워샤흐 메트릭을 사용하여 피팅함으로써 혼돈 동역계 시스템 내의 매개변수 식별을 위한 것이다. 역문제는 페론-프로베니우스 연산자를 사용한 PDE 제약 최적화로 공식화되며, 인접 방법을 통해 효율적인 기울기 계산이 가능해져, 시간 도함수가 없을 경우에도 스케일이 큰 매개변수 추정이 가능해진다.

ABSTRACT

We study an optimal transportation approach for recovering parameters in dynamical systems with a single smoothly varying attractor. We assume that the data is not sufficient for estimating time derivatives of state variables but enough to approximate the long-time behavior of the system through an approximation of its physical measure. Thus, we fit physical measures by taking the Wasserstein distance from optimal transportation as a misfit function between two probability distributions. In particular, we analyze the regularity of the resulting loss function for general transportation costs and derive gradient formulas. Physical measures are approximated as fixed points of suitable PDE-based Perron--Frobenius operators. Test cases discussed in the paper include common low-dimensional dynamical systems.

연구 동기 및 목표

• 희소하거나 노이즈가 많거나 비연속적인 데이터로 인해 시간 도함수가 관측 불가능하거나 신뢰할 수 없는 혼돈 시스템 내의 매개변수 식별 문제를 해결한다.
• 궤도 기반 피팅에서 통계적 피팅으로의 전환을 통해 장기적 행동을 물리적(불변) 측도로 모델링한다.
• 확률 밀도를 진전시키고 불변 측도를 근사하기 위해 페론-프로베니우스 연산자를 사용한 PDE 제약 최적화 프레임워크를 개발한다.
• 워샤흐 손실이 시스템 매개변수에 대해 미분 가능함을 입증하여 기울기 기반 최적화를 가능하게 한다.
• 유한 체적 이산화와 인접 방법을 사용한 효율적인 계산 파이프라인을 제공하여 스케일이 큰 매개변수 추정을 실현한다.

제안 방법

• 혼돈 시스템의 물리적 측도를 궤도의 장기 평균을 통해 근사하며, 이를 상태 공간 상의 확률 분포로 표현한다.
• 흐름의 페론-프로베니우스 연산자를 기반으로 한 포크-플랑크 또는 연속 방정식을 통해 확률 밀도의 진전을 모델링한다.
• 전진 문제를 수치적으로 해결하기 위해 일阶 오차 오르막 유한 체적 스킴을 사용하여 연속 방정식을 이산화한다.
• 모의 불변 측도와 데이터로부터의 경험적 측도 간의 오차로 제곱 워샤흐 거리를 사용한다.
• 인접 방법을 사용하여 워샤흐 손실의 해석적 기울기 공식을 유도함으로써 매개변수 차원에 관계없이 계산 비용이 일정하게 유지되도록 한다.
• 기울기 효율적으로 계산하기 위해 '이산화-그리고-최적화' 전략을 구현함으로써 대규모 매개변수 추정을 가능하게 한다.

실험 결과

연구 질문

• RQ1 시간 도함수가 이용 불가능한 경우 워샤흐 메트릭이 혼돈 시스템 내 매개변수 식별에 대해 강건하고, 기울기 가능성이 있는 손실 함수로 사용될 수 있는가?
• RQ2 시스템 매개변수에 대한 워샤흐 손실 함수가 어떤 조건에서 미분 가능하며, 그 기울기는 어떻게 효율적으로 계산할 수 있는가?
• RQ3 페론-프로베니우스 연산자를 통한 PDE 기반 전진 모델을 사용할 때, 혼돈 시스템의 불변 측도는 얼마나 잘 근사될 수 있는가?
• RQ4 이러한 방법은 고차원 매개변수 공간에서 얼마나 효율적이고 확장 가능한가?
• RQ5 이 방법은 일반적으로 혼돈 애트랙터에서 관찰되는 복잡한 지지 구조를 가진 특이하거나 프랙탈 유사 불변 측도를 다룰 수 있는가?

주요 결과

• 속도장과 운반 비용에 대한 약한 정규성 가정 하에 워샤흐 손실 함수는 시스템 매개변수에 대해 연속적으로 미분 가능하다.
• 인접 방법을 통해 매개변수 수에 관계없이 기울기 계산 비용이 일정하게 유지되어 고차원 매개변수 공간에서도 확장 가능한 방법이 된다.
• 로렌츠, 루시 등 저차원 혼돈 시스템에 대한 수치 실험 결과, 오직 장기 궤도 통계만으로도 높은 정확도로 매개변수 추정이 수렴하는 것으로 나타났다.
• 초기 조건 민감성과 측정 노이즈에 강건하기 때문에, 전통적인 궤도 기반 접근법보다 혼돈 영역에서 더 우수한 성능을 보였다.
• 유한 체적 오르막 스킴은 안정성과 보존 성질을 보장하며, 결과적으로 얻어진 마르코프 행렬은 희소하므로 PDE 제약 최적화 문제를 효율적으로 해결할 수 있다.
• 기존의 밀도 추정 기법이 어려운, 프랙탈 지지를 가진 불변 측도와 특이 밀도를 자연스럽게 다룰 수 있다.