[论文解读] Probabilistic Numerical Methods for Partial Differential Equations and Bayesian Inverse Problems

Jon Cockayne, Chris J. Oates+2 more|arXiv (Cornell University)|May 25, 2016

Gaussian Processes and Bayesian Inference被引用 4

一句话总结

该论文提出了一种用于求解偏微分方程（PDEs）的概率数值方法，通过将离散化误差视为认识性不确定性，并以解的概率分布形式表示。该方法通过统计推断传播这种不确定性，使贝叶斯反问题具有鲁棒性，即使在使用粗粒度离散化时也能得出有效结论，并将PDE求解器的选择建模为贝叶斯实验设计问题，以最小化推断误差。

ABSTRACT

This paper develops a probabilistic numerical method for solution of partial differential equations (PDEs) and studies application of that method to PDE-constrained inverse problems. This approach enables the solution of challenging inverse problems whilst accounting, in a statistically principled way, for the impact of discretisation error due to numerical solution of the PDE. In particular, the approach confers robustness to failure of the numerical PDE solver, with statistical inferences driven to be more conservative in the presence of substantial discretisation error. Going further, the problem of choosing a PDE solver is cast as a problem in the Bayesian design of experiments, where the aim is to minimise the impact of solver error on statistical inferences; here the challenge of non-linear PDEs is also considered. The method is applied to parameter inference problems in which discretisation error in non-negligible and must be accounted for in order to reach conclusions that are statistically valid.

研究动机与目标

• 解决PDE约束反问题中的离散化误差挑战，其中经典方法假设PDE被精确求解。
• 开发一种统计框架，将数值解误差视为认识性不确定性，实现在下游推断中的不确定性量化。
• 通过在参数估计中考虑求解器误差，确保反问题结果的统计有效性，特别是在离散化误差不可忽略时。
• 将PDE求解器的选择重新构建成一个贝叶斯实验设计问题，以在不确定性下优化推断的鲁棒性。
• 为使用概率PDE求解器时反问题后验分布的收敛性提供理论保证。

提出的方法

• 构建一种概率数值方法（PNM），输出PDE解的概率分布，编码由离散化引起的认识性不确定性。
• 将PDE解建模为在再生核希尔伯特空间（RKHS）上的先验分布下的随机变量，纳入光滑性和正则性假设。
• 通过使用随机基的伽辽金方法对PDE解进行有限维近似，得到解系数的后验分布。
• 在贝叶斯反问题中通过似然函数传播所得不确定性，确保不确定性向参数后验的连贯传播。
• 利用集中不等式和矩阵范数界，推导出真实与近似对数后验之间差异的误差界。
• 将PDE求解器选择建模为贝叶斯实验设计问题，通过期望信息增益最小化求解器误差对统计推断的影响。

实验结果

研究问题

• RQ1 概率数值方法能否为PDE中的离散化误差提供一种统计上合理的量化与传播方式，以应用于反问题？
• RQ2 当PDE以粗粒度离散化求解时，使用PNM如何影响贝叶斯推断的鲁棒性与有效性？
• RQ3 在多大程度上可以将PDE求解器的选择优化为一个贝叶斯实验设计问题，以减少反问题结果中的不确定性？
• RQ4 当使用具有有界离散化误差的概率PDE求解器时，能否为反问题中后验分布的收敛性建立理论保证？
• RQ5 所提出的方法如何处理非线性PDE，其对复杂模型中不确定性量化的含义是什么？

主要发现

• 概率PDE求解器生成了解的后验分布，量化了由离散化引起的认识性不确定性，实现了向反问题推断的不确定性传播。
• 该方法通过考虑求解器误差，确保了反问题结果的统计有效性，当离散化误差较高时，推断结果更为保守。
• 理论分析表明，反问题中真实与近似后验分布之间的Hellinger距离以 $ O(h^{eta - ho - d/2}) $ 的速率衰减，其中 $ h $ 为网格尺寸。
• 利用矩阵范数不等式和解的Sobolev型正则性假设，推导出对数后验差异的误差界，明确依赖于数据和先验正则性。
• 该框架允许通过贝叶斯实验设计选择PDE求解器，最小化离散化误差对统计结论的影响。
• 该方法适用于非线性PDE，并在解和数据的标准正则性与光滑性条件下保持理论一致性。