[논문 리뷰] Physics-Informed Gaussian Process Regression Generalizes Linear PDE Solvers

Marvin Pförtner, Ingo Steinwart외 2명|arXiv (Cornell University)|2022. 12. 23.

Gaussian Processes and Bayesian Inference인용 수 13

한 줄 요약

이 논문은 선형 PDE 해법을 경계선형 연산자 하에 베이지안 추론으로 간주함으로써 일반화된 물리 기반 가우시안 프로세스 회귀 프레임워크를 제안한다. 이는 이산화 오차, 매개변수 불확실성, 노이즈가 있는 측정치의 엄밀한 정량화를 가능하게 하며, 갈레르킨, 콜로케이션, 가중 잔여법을 하나의 확률 모델로 공식화하여 구조화된 오차 추정을 통합한다.

ABSTRACT

Linear partial differential equations (PDEs) are an important, widely applied class of mechanistic models, describing physical processes such as heat transfer, electromagnetism, and wave propagation. In practice, specialized numerical methods based on discretization are used to solve PDEs. They generally use an estimate of the unknown model parameters and, if available, physical measurements for initialization. Such solvers are often embedded into larger scientific models with a downstream application and thus error quantification plays a key role. However, by ignoring parameter and measurement uncertainty, classical PDE solvers may fail to produce consistent estimates of their inherent approximation error. In this work, we approach this problem in a principled fashion by interpreting solving linear PDEs as physics-informed Gaussian process (GP) regression. Our framework is based on a key generalization of the Gaussian process inference theorem to observations made via an arbitrary bounded linear operator. Crucially, this probabilistic viewpoint allows to (1) quantify the inherent discretization error; (2) propagate uncertainty about the model parameters to the solution; and (3) condition on noisy measurements. Demonstrating the strength of this formulation, we prove that it strictly generalizes methods of weighted residuals, a central class of PDE solvers including collocation, finite volume, pseudospectral, and (generalized) Galerkin methods such as finite element and spectral methods. This class can thus be directly equipped with a structured error estimate. In summary, our results enable the seamless integration of mechanistic models as modular building blocks into probabilistic models by blurring the boundaries between numerical analysis and Bayesian inference.

연구 동기 및 목표

• 모델 매개변수와 측정 노이즈가 忽略된 전통적 수치적 PDE 해법에서의 불확실성 정량화 부족 문제를 해결하기 위해.
• 물리적 제약 조건을 갖춘 가우시안 프로세스를 사용하여 선형 PDE를 베이지안 추론 문제로 공식화하기 위해.
• 기존의 가중 잔여법—갈레르킨, 콜로케이션, 유한요소 방법 등—을 통합된 확률 모델 내에서 일반화하기 위해.
• 모델 매개변수와 경계 조건의 불확실성을 원칙적인 확률적 접근을 통해 해의 전파를 가능하게 하기 위해.
• 기계적 PDE 모델을 더 큰 과학 워크플로우 내에서 모듈러하고 불확실성 인식 가능한 구성 요소로 통합함으로써 수치 해석과 베이지안 추론 간의 경계를 흐리게 하기 위해.

제안 방법

• 해를 소볼레프 공간 내 함수 위의 가우시안 프로세스 사전분포로 모델링하여 약한 도함수에 대한 충분한 매끄러움을 보장한다.
• 관측치를 경계선형 연산자로 조건화함으로써 표준 GP 추론 정리의 일반화를 통해 PDE 제약 조건과 경계 조건을 처리한다.
• 노이즈가 있는 물리적 측정치와 불확실한 매개변수를 GP 우도 내의 확률적 관측치로 간주하여 통합한다.
• 선형 PDE의 약한 제형을 통해 우도를 정의함으로써, 표준 갈레르킨 유형 방법이 확률적 추론의 특수한 경우로 사용될 수 있도록 한다.
• 약한 정규성 조건 하에서 사후분포는 해석적으로 다룰 수 있으며, 닫힌 형태의 불확실성 전파와 오차 추정이 가능하다.
• 해의 공간이 PDE의 소볼레프 공간 요구 조건과 일치하도록 적절한 매끄러움 매개변수를 갖춘 매테르 나이즈 공분산 함수를 활용한다.

실험 결과

연구 질문

• RQ1 물리 기반 가우시안 프로세스 회귀는 갈레르킨 및 콜로케이션 방법과 같은 전통적 선형 PDE 해법을 일반화할 수 있는가?
• RQ2 확률 모델 내에서 PDE 해의 이산화 오차는 어떻게 정량화할 수 있는가?
• RQ3 GP 추론을 통해 모델 매개변수와 노이즈가 있는 측정치의 불확실성은 해의 전파에 얼마나 잘 전달될 수 있는가?
• RQ4 제안된 프레임워크는 기존의 가중 잔여법을 단일 확률적 추론 메커니즘으로 통합할 수 있는가?
• RQ5 결과로 도출된 확률적 PDE 해법은 일관된 불확실성 정량화를 보장하면서 하류 과학 모델에 원활하게 통합될 수 있는가?

주요 결과

• 제안된 프레임워크는 콜로케이션, 유한체적, 푸아송 스펙트럴, 갈레르킨 방법(유한요소 및 스펙트럴 방법 포함)을 포함한 모든 가중 잔여법을 일반화한다.
• PDE 및 경계 제약 조건에 조건화된 무작위 함수로 간주함으로써, 이산화 오차에 대한 체계적이고 모델 기반의 오차 추정을 제공한다.
• 모델 매개변수와 노이즈가 있는 측정치의 불확실성은 GP 사후분포를 통해 자연스럽게 해의 전파를 통해 전달되며, 강건한 하류 추론을 가능하게 한다.
• 적절한 매끄러움 매개변수를 갖춘 매테르 나이즈 공분산 함수를 선택함으로써, 해의 공간이 PDE의 정규성 요구 조건과 일치하도록 보장한다.
• 기계적 모델을 확률 워크플로우에 원활하게 통합하기 위해, 공통의 확률 기반으로 수치 해석과 베이지안 추론을 통합함으로써 기계적 모델을 모듈러하고 불확실성 인식 가능한 구성 요소로 만든다.
• 이론적 프레임워크는 경계선형 연산자와 소볼레프 공간에 기반하여 수학적 엄밀성과 광범위한 선형 PDE 클래스에의 적용 가능성을 보장한다.