[论文解读] Physics-Informed Kriging: A Physics-Informed Gaussian Process Regression Method for Data-Model Convergence.

Xiu Yang, G. Tartakovsky+1 more|arXiv (Cornell University)|Sep 10, 2018

Gaussian Processes and Bayesian Inference参考文献 26被引用 29

一句话总结

本文提出物理信息克里金法（PhIK），一种高斯过程回归方法，通过控制偏微分方程的随机解实现非平稳均值和协方差函数的构建，无需超参数优化。PhIK通过确定性线性算子保证物理约束，并结合主动学习与多水平蒙特卡洛采样，实现准确高效的预测。该方法在改进的Branin函数和示踪剂分布重建任务中得到验证。

ABSTRACT

In this work, we propose a new Gaussian process regression (GPR) method: physics-informed Kriging (PhIK). In the standard data-driven Kriging, the unknown function of interest is usually treated as a Gaussian process with assumed stationary covariance with hyperparameters estimated from data. In PhIK, we compute the mean and covariance function from realizations of available stochastic models, e.g., from realizations of governing stochastic partial differential equations solutions. Such a constructed Gaussian process generally is non-stationary, and does not assume a specific form of the covariance function. Our approach avoids the costly optimization step in data-driven GPR methods to identify the hyperparameters. More importantly, we prove that the physical constraints in the form of a deterministic linear operator are guaranteed in the resulting prediction. We also provide an error estimate in preserving the physical constraints when errors are included in the stochastic model realizations. To reduce the computational cost of obtaining stochastic model realizations, we propose a multilevel Monte Carlo estimate of the mean and covariance functions. Further, we present an active learning algorithm that guides the selection of additional observation locations. The efficiency and accuracy of PhIK are demonstrated for reconstructing a partially known modified Branin function and learning a conservative tracer distribution from sparse concentration measurements.

研究动机与目标

• 解决标准数据驱动克里金法的局限性，后者依赖平稳协方差假设并需昂贵的超参数优化。
• 通过确定性线性算子将物理约束直接嵌入高斯过程预测中，确保结果与控制方程一致。
• 通过利用随机模型解的多水平蒙特卡洛估计，降低构建均值与协方差函数的计算成本。
• 通过集成主动学习算法，选择具有信息量的观测位置，提升数据效率。

提出的方法

• 从控制偏微分方程的随机解中构建高斯过程的均值与协方差函数，形成非平稳过程。
• 使用确定性线性算子将物理约束直接嵌入预测中，确保学习函数满足基本物理规律。
• 以基于物理的协方差结构构建替代传统超参数优化，避免迭代调参。
• 应用多水平蒙特卡洛采样，高效估计来自随机模型解的均值与协方差函数。
• 集成主动学习策略，基于预测方差与物理一致性选择新的观测位置，以最小数据量提升模型精度。

实验结果

研究问题

• RQ1 能否在不依赖平稳协方差函数超参数优化的前提下，构建物理信息高斯过程？
• RQ2 如何在高斯过程回归模型的预测中保证以线性算子形式表达的物理约束？
• RQ3 随机模型解中的误差在多大程度上影响最终预测中物理约束的保持？
• RQ4 多水平蒙特卡洛采样能否显著降低构建高斯过程中均值与协方差函数的计算成本？
• RQ5 主动学习在指导观测点布置方面有多高效，能否在数据稀缺场景下提升收敛性与准确性？

主要发现

• PhIK通过直接从随机模型解中构建协方差结构，消除了对超参数优化的需求，显著降低了计算开销。
• 该方法可保证预测结果满足由确定性线性算子定义的物理约束，确保与控制方程的一致性。
• 误差分析表明，即使随机模型解存在误差，物理约束仍能被有效保持，偏差保持在有界范围内。
• 与标准蒙特卡洛方法相比，多水平蒙特卡洛估计显著降低了计算均值与协方差函数的成本。
• 主动学习提升了数据效率，使在较少观测下即可准确重构改进的Branin函数与保守示踪剂分布。