[论文解读] Physics-Informed Gaussian Process Regression Generalizes Linear PDE Solvers

Marvin Pförtner, Ingo Steinwart+2 more|arXiv (Cornell University)|Dec 23, 2022

Gaussian Processes and Bayesian Inference被引用 13

一句话总结

该论文提出了一种物理信息高斯过程回归框架，通过在有界线性算子下的贝叶斯推断，将线性PDE求解器推广为PDE解的贝叶斯推断问题。该方法能够严格量化离散化误差、参数不确定性以及噪声测量，并在单一概率模型下正式统一伽辽金法、配点法和加权残差法，同时提供结构化的误差估计。

ABSTRACT

Linear partial differential equations (PDEs) are an important, widely applied class of mechanistic models, describing physical processes such as heat transfer, electromagnetism, and wave propagation. In practice, specialized numerical methods based on discretization are used to solve PDEs. They generally use an estimate of the unknown model parameters and, if available, physical measurements for initialization. Such solvers are often embedded into larger scientific models with a downstream application and thus error quantification plays a key role. However, by ignoring parameter and measurement uncertainty, classical PDE solvers may fail to produce consistent estimates of their inherent approximation error. In this work, we approach this problem in a principled fashion by interpreting solving linear PDEs as physics-informed Gaussian process (GP) regression. Our framework is based on a key generalization of the Gaussian process inference theorem to observations made via an arbitrary bounded linear operator. Crucially, this probabilistic viewpoint allows to (1) quantify the inherent discretization error; (2) propagate uncertainty about the model parameters to the solution; and (3) condition on noisy measurements. Demonstrating the strength of this formulation, we prove that it strictly generalizes methods of weighted residuals, a central class of PDE solvers including collocation, finite volume, pseudospectral, and (generalized) Galerkin methods such as finite element and spectral methods. This class can thus be directly equipped with a structured error estimate. In summary, our results enable the seamless integration of mechanistic models as modular building blocks into probabilistic models by blurring the boundaries between numerical analysis and Bayesian inference.

研究动机与目标

• 为解决经典数值PDE求解器中因忽略参数和测量噪声而导致的不确定性量化缺失问题。
• 通过引入带有物理约束的高斯过程，将求解线性PDE形式化为贝叶斯推断问题。
• 在统一的概率框架内推广标准加权残差法（如伽辽金法、配点法和有限元法）等方法。
• 通过有原则的概率方法，实现从模型参数和边界条件到解的不确定性传播。
• 通过将机理PDE模型作为模块化、具备不确定性感知的组件嵌入更大科学工作流中，模糊数值分析与贝叶斯推断之间的界限。

提出的方法

• 该方法在Sobolev空间中对函数建立高斯过程先验，确保解具有足够光滑性以支持弱导数。
• 通过有界线性算子对观测值进行条件化，将标准高斯过程推断定理推广至处理PDE约束和边界条件。
• 通过将噪声物理测量和不确定参数视为GP似然中的随机观测，将它们纳入框架。
• 利用线性PDE的弱形式定义似然函数，使标准伽辽金型方法可作为该概率推断的特例。
• 在适度正则性条件下，后验分布具有解析可解性，从而支持闭式不确定性传播与误差估计。
• 通过选择适当光滑性参数的Matérn协方差函数，确保解空间与PDE的Sobolev空间要求一致。

实验结果

研究问题

• RQ1 能否将物理信息高斯过程回归形式化，以推广经典线性PDE求解器（如伽辽金法和配点法）？
• RQ2 在概率框架下，如何量化PDE解中的离散化误差？
• RQ3 在GP推断下，模型参数的不确定性与噪声测量在PDE解中的传播程度如何？
• RQ4 所提出的框架是否能在单一概率推断机制下统一现有的加权残差方法？
• RQ5 所得到的概率PDE求解器能否无缝集成到下游科学模型中，并实现一致的不确定性量化？

主要发现

• 所提出的框架推广了所有加权残差法，包括配点法、有限体积法、伪谱法，以及有限元法和谱方法等伽辽金法。
• 通过将解视为在PDE和边界约束下条件化的随机函数，提供了结构化的、基于模型的离散化误差估计。
• 模型参数的不确定性与噪声测量通过GP后验自然传播至解中，支持鲁棒的下游推断。
• 通过选择具有适当光滑性参数的Matérn协方差函数，确保了解空间与PDE的正则性要求一致。
• 通过统一数值分析与贝叶斯推断的共同概率基础，实现了机理模型与概率工作流的无缝集成。
• 理论框架基于有界线性算子和Sobolev空间，确保了数学严谨性，并适用于广泛类别的线性PDE。