[논문 리뷰] Data-driven discovery of partial differential equations

Samuel Rudy|arXiv (Cornell University)|2016. 09. 21.

Time Series Analysis and Forecasting인용 수 3

한 줄 요약

이 논문은 시간에 따라 변화하는 시리즈 데이터에서 정적 공간 위치(유동기준) 또는 동역학과 함께 움직이는 위치(라그랑주 기준)에서 수집된 데이터로부터 정 governing PDE를 발견하는 데 중점을 두고 있는 희소 회귀 방법인 PDE-FIND를 소개한다. 희소성 유도 회귀와 파레토 분석을 활용하여, 나비에-스토크스, 코르테웨그-데 브리스, 슈뢰딩거 방정식과 같은 물리적으로 의미 있는 희소 PDE를 데이터에서 직접 정확하게 식별할 수 있으며, 노이즈와 부분 샘플링 조건에서도 안정적으로 작동하여, 원리적 유도가 불가능한 복잡한 시스템에서 물리 법칙을 효과적으로 발견할 수 있다.

ABSTRACT

We propose a sparse regression method capable of discovering the governing partial differential equation(s) of a given system by time series measurements in the spatial domain. The regression framework relies on sparsity promoting techniques to select the nonlinear and partial derivative terms terms of the governing equations that most accurately represent the data, bypassing a combinatorially large search through all possible candidate models. The method balances model complexity and regression accuracy by selecting a parsimonious model via Pareto analysis. Time series measurements can be made in an Eulerian framework where the sensors are fixed spatially, or in a Lagrangian framework where the sensors move with the dynamics. The method is computationally efficient, robust, and demonstrated to work on a variety of canonical problems of mathematical physics including Navier-Stokes, the quantum harmonic oscillator, and the diffusion equation. Moreover, the method is capable of disambiguating between potentially non-unique dynamical terms by using multiple time series taken with different initial data. Thus for a traveling wave, the method can distinguish between a linear wave equation or the Korteweg-deVries equation, for instance. The method provides a promising new technique for discovering governing equations and physical laws in parametrized spatio-temporal systems where first-principles derivations are intractable.

연구 동기 및 목표

• 공간과 시간에 따라 측정된 시간 시리즈 데이터로부터 governing PDE를 발견하는 데이터 기반 방법을 개발하는 것.
• 특히 신경과학, 전염병학, 유체역학 등 복잡한 시스템에서 원리적 유도가 불가능한 상황에서 PDE 식별 문제를 해결하는 것.
• 파레토 분 析를 통해 정확도와 복잡도의 균형을 맞추는 희소 회귀를 활용해 PDE의 강건한 식별을 가능하게 하는 것.
• 비선형성과 소산성을 포함한 수학적 물리학의 대표적 모델들에 대해 본 방법의 성능을 입증하는 것.
• 다양한 초기 조건을 가진 다수의 시간 시리즈를 통해 동역학 항의 다중 해석을 제거하는 것, 즉 비선형 웨이브 방정식과 코르테웨그-데 브리스 방정식을 구분하는 것

제안 방법

• 시간 시리즈 데이터로부터 상태 변수의 비선형 함수와 공간 미분항을 포함한 광범위한 후보 항의 라이브러리를 구성한다.
• L0-노름 최소화를 통해 단순한 모델을 유도하는 희소 회귀를 적용하여 데이터를 가장 잘 설명하는 최소한의 항 조합을 식별한다.
• 데이터를 부분 샘플링함으로써 계산 비용을 줄이고도 회귀 정확도를 유지하기 위해 압축 감지 기법을 활용한다.
• 고정 센서(유동기준)와 움직이는 센서(라그랑주 기준)의 두 가지 데이터 수집 프레임워크를 지원하여 다양한 측정 환경에 대응한다.
• 모델 복잡도와 회귀 오차 사이의 균형을 맞추기 위해 파레토 분 析를 사용하여 희소성과 정확도 사이의 최적의 트레이드오프를 선택한다.
• 본 방법는 PDE-FIND(PDE Functional Identification of Nonlinear Dynamics)로 구현되었으며, 오픈소스 코드가 제공된다.

실험 결과

연구 질문

• RQ1 희소 회귀 기법을 시간 시리즈 데이터에서 일반 미분 방정식 이외의 편미분 방정식(PDE) 식별으로 확장할 수 있는가?
• RQ2 유동기준 및 라그랑주 기준 모두에서 노이즈가 있는 부분 샘플링된 데이터로부터 공간 미분항과 비선형 항을 어떻게 강건하게 식별할 수 있는가?
• RQ3 비유일적인 동역학 모델 간의 구분이 가능한가? 예를 들어, 코르테웨그-데 브리스 방정식과 선형 웨이브 방정식을 어떻게 구분할 수 있는가?
• RQ4 노이즈와 데이터 부분 샘플링에 대해 어느 정도의 수준까지 저항력을 유지하면서도 진정한 governing PDE를 정확히 복원할 수 있는가?
• RQ5 학습 데이터에 포함되지 않은 파rameter 영역(예: 나비에-스토크스 방정식의 레이놀즈 수가 더 높은 영역)에서도 동역학 예측이 가능한가?

주요 결과

• 노이즈가 없을 경우 레이놀즈 수 Re = 100인 나비에-스토크스 방정식을 1% ± 0.2%의 재구성 오차로 성공적으로 발견했으며, 1% 노이즈 조건에서는 7% ± 6%의 오차를 기록했다.
• 코르테웨그-데 브리스(KdV) 방정식의 경우, 노이즈가 없을 때 오차는 1% ± 0.2%였고, 1% 노이즈 조건에서는 7% ± 5%의 오차를 기록했으며, 전체 데이터의 2.22%만을 사용한 부분 샘플링 조건에서도 성능을 유지했다.
• 노이즈가 없을 경우 슈뢰딩거 방정식은 0.25% ± 0.01%의 오차로 정확하게 복원되었고, 1% 노이즈 조건에서는 10% ± 7%의 오차를 기록했다.
• 반응-확산 시스템에서는 노이즈가 없을 경우 오차가 0.02% ± 0.01%였고, 0.5% 노이즈 조건에서는 3.8% ± 2.4%의 오차를 기록하여 중간 수준의 노이즈에 대해 강건함을 입증했다.
• 학습 데이터에서 Re = 100인 조건으로 학습된 모델을 사용하여 Re = 10,000인 난류 나비에-스토크스 동역학을 정확하게 예측할 수 있었으며, 이는 학습 영역 외부의 파라미터 영역으로의 일반화 능력을 보여주었다.
• 다양한 초기 조건을 사용한 결과, 코르테웨그-데 브리스 방정식과 선형 웨이브 방정식 간의 모델 불확실성을 제거할 수 있었으며, 솔리톤 동역학에서 두 방정식을 효과적으로 구분할 수 있었다.