[论文解读] Bayesian Calibration of Imperfect Computer Models using Physics-Informed Priors

Michail Spitieris, Ingelin Steinsland|arXiv (Cornell University)|Jan 17, 2022

Model Reduction and Neural Networks被引用 4

一句话总结

该论文提出了一种计算高效的贝叶斯校准框架，用于处理不完善的微分方程模型，通过引入编码微分方程结构的物理信息高斯过程先验，将协方差函数与物理规律相结合。通过将物理信息先验与基于高斯过程的模型差异建模相结合，并采用哈密顿蒙特卡洛（HMC）推理，该方法即使在模型误设和数据偏差的情况下，也能准确恢复物理参数和预测结果，且计算复杂度从 O(N³) 降低至 O(N·m²)，适用于大规模数据。

ABSTRACT

We introduce a computational efficient data-driven framework suitable for quantifying the uncertainty in physical parameters and model formulation of computer models, represented by differential equations. We construct physics-informed priors, which are multi-output GP priors that encode the model's structure in the covariance function. This is extended into a fully Bayesian framework that quantifies the uncertainty of physical parameters and model predictions. Since physical models often are imperfect descriptions of the real process, we allow the model to deviate from the observed data by considering a discrepancy function. For inference, Hamiltonian Monte Carlo is used. Further, approximations for big data are developed that reduce the computational complexity from $\mathcal{O}(N^3)$ to $\mathcal{O}(N\cdot m^2),$ where $m \ll N.$ Our approach is demonstrated in simulation and real data case studies where the physics are described by time-dependent ODEs describe (cardiovascular models) and space-time dependent PDEs (heat equation). In the studies, it is shown that our modelling framework can recover the true parameters of the physical models in cases where 1) the reality is more complex than our modelling choice and 2) the data acquisition process is biased while also producing accurate predictions. Furthermore, it is demonstrated that our approach is computationally faster than traditional Bayesian calibration methods.

研究动机与目标

• 解决由微分方程描述的不完善物理模型中的参数估计挑战，其中模型误设和数据偏差导致系统性偏差。
• 构建一个完全的贝叶斯框架，量化物理参数和模型预测中的不确定性，同时整合模型结构的先验知识。
• 提出物理信息高斯过程先验，将微分方程结构直接嵌入协方差函数，以增强先验的信息量。
• 通过引入低秩近似，将计算复杂度从 O(N³) 降低至 O(N·m²)，其中 m ≪ N，从而降低大规模数据集的计算成本，实现对大数据的可扩展应用。
• 在真实过程比模型更复杂或数据采集存在偏差的情况下，证明该方法在恢复真实参数和实现准确预测方面的鲁棒性。

提出的方法

• 构建多输出高斯过程先验，其协方差函数由物理模型的线性微分算子（如 ODE 或 PDE）导出，直接编码底层物理规律。
• 采用哈密顿蒙特卡洛（HMC）进行物理参数和差异函数的后验推断，实现对高维参数空间的高效探索。
• 通过在差异函数上使用独立的高斯过程先验来建模系统性模型差异，使模型在保持物理一致性的同时能够偏离观测数据。
• 将物理信息先验与 Kennedy-O'Hagan（KOH）框架结合，实现对参数和差异的联合推断，并提供不确定性量化。
• 通过引入诱导点发展低秩近似，将计算复杂度从 O(N³) 降低至 O(N·m²)，其中 m ≪ N，通过使用数据点子集来近似完整高斯过程。
• 将该框架应用于时变 ODE（如 Windkessel 模型）和时空 PDE（如热方程），采用各向异性的平方指数核以捕捉时空相关性。

实验结果

研究问题

• RQ1 在模型形式存在不确定性的情况下，物理信息先验是否能提升贝叶斯校准的准确性和效率？
• RQ2 当真实过程比假设的模型结构更复杂时，该框架在多大程度上能恢复真实的物理参数？
• RQ3 在数据存在偏差或噪声的情况下，引入差异函数在多大程度上能提升预测准确性？
• RQ4 所提出的低秩近似是否能在降低计算成本的同时保持准确性，适用于大规模数据集？
• RQ5 与传统贝叶斯校准相比，将物理信息先验与 HMC 及差异建模相结合，在速度和鲁棒性方面表现如何？

主要发现

• 即使真实血流动力学过程比模型结构更复杂，该方法仍能成功恢复 Windkessel 模型的真实物理参数。
• 由于引入了差异函数，该框架在数据采集存在偏差的情况下，仍能对 Windkessel 模型的压力和血流提供准确预测。
• 通过低秩近似，计算复杂度从 O(N³) 降低至 O(N·m²)，其中 m ≪ N，实现了对大规模数据集的可扩展性。
• 物理信息先验显著提升了先验的信息量，与非信息先验相比，实现了更快的收敛速度和更准确的后验推断。
• 该方法在计算速度上优于传统贝叶斯校准，同时在参数恢复和预测准确性方面保持或进一步提升。
• HMC 的使用实现了对参数和差异函数联合后验的高效采样，确保了所有模型组件的稳健不确定性量化。