[논문 리뷰] IDENT: Identifying Differential Equations with Numerical Time evolution

Sung Ha Kang, Wenjing Liao외 1명|arXiv (Cornell University)|2019. 04. 06.

Model Reduction and Neural Networks참고 문헌 34인용 수 23

한 줄 요약

이 논문은 수치적 시간 진동을 검증 및 보정에 활용하여 노이즈가 섞인 이산적 시간 시리즈 데이터로부터 편미분방정식(PDE)을 식별하는 데에 새로운 알고리즘인 IDENT를 제안한다. Lasso 기반 희소 회귀와 시간 진동 오차(TEE) 지표를 결합하여 노이즈, 다운샘플링, 계수의 변화에도 불구하고 안정적인 복원을 가능하게 하며, 비균형성과 새로운 노이즈 대 신호 비율 정의를 통해 이론적 보장을 확보한다.

ABSTRACT

Identifying unknown differential equations from a given set of discrete time dependent data is a challenging problem. A small amount of noise can make the recovery unstable, and nonlinearity and differential equations with varying coefficients add complexity to the problem. We assume that the governing partial differential equation (PDE) is a linear combination of a subset of a prescribed dictionary containing different differential terms, and the objective of this paper is to find the correct coefficients. We propose a new direction based on the fundamental idea of convergence analysis of numerical PDE schemes. We utilize Lasso for efficiency, and a performance guarantee is established based on an incoherence property. The main contribution is to validate and correct the results by Time Evolution Error (TEE). The new algorithm, called Identifying Differential Equations with Numerical Time evolution (IDENT), is explored for data with non-periodic boundary conditions, noisy data and PDEs with varying coefficients. From the recovery analysis of Lasso, we propose a new definition of Noise-to-Signal ratio, which better represents the level of noise in the case of PDE identification. We systematically analyze the effects of data generations and downsampling, and propose an order preserving denoising method called Least-Squares Moving Average (LSMA), to preprocess the given data. For the identification of PDEs with varying coefficients, we propose to add Base Element Expansion (BEE) to aide the computation. Various numerical experiments from basic tests to noisy data, downsampling effects and varying coefficients are presented.

연구 동기 및 목표

• 이산적이고 노이즈가 섞였으며 잠재적으로 다운샘플링된 시간 시리즈 데이터로부터 알려지지 않은 PDE를 식별하는 데 도전하는 것.
• 노이즈와 비주기적 경계 조건 하에서 PDE 식별의 안정성과 정확도를 향상시키는 것.
• 수치적 시간 진동을 활용하여 희소 회귀 결과를 검증하고 보정하는 강력한 프레임워크를 개발하는 것.
• 기저 요소 확장(BEE)을 통해 계수가 변화하는 PDE로의 방법 확장을 이루는 것.
• 비균형성과 개선된 노이즈 대 신호 비율 정의를 바탕으로 한 PDE 식별을 위한 새로운 이론적 성능 보장을 수립하는 것.

제안 방법

• Lasso를 통해 식별된 후보 PDE를 검증하고 보정하기 위해 수치적 시간 진동을 활용하는 새로운 알고리즘 IDENT를 제안한다.
• 유한 차분 스킴(예: 5점 ENO)을 적용하여 후보 항의 공간 도함수를 사전에 정의된 사전 조건에서 근사한다.
• 후보 PDE의 시간에 따른 일관성을 평가하기 위해 시간 진동 오차(TEE) 지표를 도입하여 잘못된 해를 걸러내는 데 기여한다.
• 원시 데이터의 순서를 유지하는 데 중점을 두고 정확도를 향상시키기 위해 최소 제곱 이동 평균(LSMA)을 개발한다.
• 계수가 공간적으로 변화하는 PDE를 유한 요소 기반으로 계수를 확장함으로써 표현하기 위해 기저 요소 확장(BEE)을 사용한다.
• 비균형성 조건을 사용하고 PDE 식별에 특화된 새로운 노이즈 대 신호 비율 정의를 유도함으로써 이론적 성능 보장을 수립한다.

실험 결과

연구 질문

• RQ1 수치적 시간 진동이 노이즈가 섞인 데이터로부터 PDE 식별의 강건성을 향상시키는 검증 메커니즘으로 사용될 수 있는가?
• RQ2 제안된 TEE 지표는 희소 회귀의 정확도와 안정성에 어떻게 기여하는가?
• RQ3 도함수 추정에 노이즈의 영향을 반영하는 PDE 식별에 적합한 노이즈 대 신호 비율 정의는 무엇인가?
• RQ4 희소 회귀를 통해 공간적으로 변화하는 계수를 가진 PDE를 효과적으로 식별할 수 있는가?
• RQ5 LSMA 노이즈 제거 기법은 데이터 손상과 다운샘플링 상황에서 PDE 식별 성능을 얼마나 향상시키는가?

주요 결과

• IDENT 알고리즘은 노이즈가 심하고 다운샘플링된 데이터로부터도 높은 정확도로 PDE를 식별할 수 있다.
• 제안된 TEE 지표는 잘못된 PDE 후보를 효과적으로 걸러내어 표준 Lasso에 비해 복원 안정성이 크게 향상됨을 입증한다.
• LSMA 노이즈 제거 기법은 데이터의 순서와 구조를 유지하며, 도함수 정확도를 유지하는 데 있어 표준 노이즈 제거 기법보다 뛰어난 성능을 보인다.
• 이론적 분석 결과, IDENT는 비균형성 조건 하에서 안정적인 복원을 달성하며, 새로운 노이즈 대 신호 비율 정의를 기반으로 한다.
• 기저 요소 확장(BEE)을 통해 계수가 변화하는 PDE를 정확하게 식별할 수 있어, 복잡한 시스템으로의 적용 범위를 넓혔다.
• 오차에 대한 이론적 경계를 유도하여, 복원 오차가 노이즈 수준과 비균형성에 비례함을 확인함으로써 강건성을 입증한다.