[논문 리뷰] Machine Learning of Partial Differential Equations from Noise Data

Wenbo Cao, Weiwei Zhang|arXiv (Cornell University)|2020. 09. 28.

Model Reduction and Neural Networks참고 문헌 28인용 수 6

한 줄 요약

이 논문은 노이즈가 있는 데이터로부터 편미분방정식(PDE)을 식별하기 위해 주파수 도메인 기반 기계학습 방법을 제안한다. 푸리에 변환을 활용해 노이즈를 억제하고, 정확한 항 탐지에 적합한 새로운 희소 식별 기준을 도입한다. 이 방법은 다양한 기본적인 방정식에 대해 낮은 신호 대 노이즈 비율에서도 PDE의 구조와 파라미터를 높은 정확도와 강건성으로 식별할 수 있다.

ABSTRACT

Machine learning of partial differential equations from data is a potential breakthrough to solve the lack of physical equations in complex dynamic systems, but because numerical differentiation is ill-posed to noise data, noise has become the biggest obstacle in the application of partial differential equation identification method. To overcome this problem, we propose Frequency Domain Identification method based on Fourier transforms, which effectively eliminates the influence of noise by using the low frequency component of frequency domain data to identify partial differential equations in frequency domain. We also propose a new sparse identification criterion, which can accurately identify the terms in the equation from low signal-to-noise ratio data. Through identifying a variety of canonical equations spanning a number of scientific domains, the proposed method is proved to have high accuracy and robustness for equation structure and parameters identification for low signal-to-noise ratio data. The method provides a promising technique to discover potential partial differential equations from noisy experimental data.

연구 동기 및 목표

• 기존의 수치적 미분 방법이 불안정성 문제로 실패하는 노이즈가 있는 실험 데이터로부터 편미분방정식(PDE)을 식별하는 과제를 해결한다.
• 낮은 신호 대 노이즈 비율에서 성능이著しく 떨어지는 기존 PDE 식별 방법의 한계를 극복한다.
• 실제 세계의 노이즈가 있는 데이터로부터 PDE의 구조와 파라미터를 정확히 복원할 수 있는 강건한 프레임워크를 개발한다.
• 낮은 신호 대 노이즈 비율 환경에 특화된 새로운 희소 식별 기준을 도입하여 항 선택 정확도를 향상시킨다.
• 다양한 과학 분야의 기본적인 PDE들(예: 확산, 파동, 반응-확산 방정식 등)에 걸쳐 일반화 가능성을 입증한다.

제안 방법

• 노이즈가 있는 시간 도메인 데이터를 푸리에 변환을 통해 주파수 도메인으로 변환하여 노이즈 영향을 덜 받는 저주파 성분을 분리한다.
• 미분이 더 안정적이고 고주파 노이즈 성분에 덜 민감한 주파수 도메인에서 PDE 식별을 수행한다.
• 주파수 도메인 계수를 기반으로 한 새로운 희소 식별 기준을 적용하여 PDE의 관련 항을 선별하고, 낮은 신호 대 노이즈 비율 조건에서의 오진 탐지 수를 최소화한다.
• 주파수 도메인에서 희소 회귀 프레임워크를 활용하여 변환된 데이터로부터 기저의 PDE 구조를 재구성한다.
• 역 푸리에 변환을 통해 원래의 PDE를 시간 도메인으로 재구성하고, 알려진 해석적 형태와의 검증을 수행한다.
• 시스템의 본질적 역학을 유지하는 주요 주파수 성분에 집중하여 식별 과정을 최적화한다.

실험 결과

연구 질문

• RQ1 주파수 도메인 변환은 노이즈가 있는 데이터에서 PDE 식별을 위한 수치적 미분의 불안정성 문제를 효과적으로 완화하는가?
• RQ2 제안된 희소 식별 기준은 낮은 신호 대 노이즈 비율에서 진짜 PDE 항과 노이즈를 어떻게 정확히 구분하는가?
• RQ3 의미 있는 노이즈가 있는 실험 데이터로부터 얼마나 정확히 PDE의 구조와 파라미터를 복원할 수 있는가?
• RQ4 다양한 노이즈 수준에서 시간 도메인 식별 기법과 비교했을 때, 이 방법은 정확도와 강건성 측면에서 어떤가?
• RQ5 이 방법은 확산, 파동, 반응-확산 방정식 등 다양한 과학 분야의 다양한 유형의 PDE에 대해 일반화 가능한가?

주요 결과

• 주파수 도메인 식별 방법은 PDE 발견 과정에서 노이즈의 영향을 크게 줄여 안정적인 미분과 정확한 항 선택을 가능하게 한다.
• 제안된 희소 식별 기준은 낮은 신호 대 노이즈 비율에서도 진짜 PDE 항을 높은 정확도로 식별하며, 기존 표준 희소 기법보다 뛰어난 성능을 보인다.
• 이 방법은 노이즈가 있는 데이터로부터 광범위한 기본 PDE들(예: 이동-확산, 파동, 반응-확산 방정식 등)을 매우 낮은 구조적 및 파rametric 오차로 정확히 식별할 수 있다.
• 다양한 과학 분야에서의 강건성 검증을 통해 이 방법이 특정 방정식 유형을 넘어서 일반화 가능성을 확인한다.
• 기존 방법이 일반적으로 실패하는 10 dB 이하의 낮은 신호 대 노이즈 비율에서도 이 방법은 높은 정확도를 유지한다.
• 푸리에 도메인의 저주파 성분을 활용함으로써 고주파 노이즈는 제거하면서도 시스템의 본질적 역학을 유지하여 식별 신뢰도를 향상시킨다.