[论文解读] Probabilistic Integration: A Role for Statisticians in Numerical Analysis?

François‐Xavier Briol, Chris J. Oates+3 more|arXiv (Cornell University)|Dec 3, 2015

Reservoir Engineering and Simulation Methods参考文献 95被引用 30

一句话总结

本文倡导将数值误差视为认知不确定性（epistemic uncertainty）的概率数值方法，从而实现对计算流水线的统计分析。它提出了一种概率积分器，可对积分结果提供完整的后验分布，实现统计上有效的不确定性量化，计算成本为立方级，并在统计建模、计算机图形学和油藏模拟中展示了其有效性。

ABSTRACT

A research frontier has emerged in scientific computation, founded on the principle that numerical error entails epistemic uncertainty that ought to be subjected to statistical analysis. This viewpoint raises several interesting challenges, including the design of statistical methods that enable the coherent propagation of probabilities through a (possibly deterministic) computational pipeline. This paper examines thoroughly the case for probabilistic numerical methods in statistical computation and a specific case study is presented for Markov chain and Quasi Monte Carlo methods. A probabilistic integrator is equipped with a full distribution over its output, providing a measure of epistemic uncertainty that is shown to be statistically valid at finite computational levels, as well as in asymptotic regimes. The approach is motivated by expensive integration problems, where, as in krigging, one is willing to expend, at worst, cubic computational effort in order to gain uncertainty quantification. There, probabilistic integrators enjoy the best of both worlds, leveraging the sampling efficiency of Monte Carlo methods whilst providing a principled route to assessment of the impact of numerical error on scientific conclusions. Several substantial applications are provided for illustration and critical evaluation, including examples from statistical modelling, computer graphics and uncertainty quantification in oil reservoir modelling.

研究动机与目标

• 建立一个框架，将计算流水线中的数值误差视为认知不确定性，并对其进行统计分析。
• 开发一种概率积分器，为积分输出提供完整的概率分布，实现在有限计算水平和渐近计算水平下的不确定性量化。
• 在计算成本高昂但不确定性评估至关重要的昂贵科学问题（如克里金插值和油藏建模）中，证明概率积分的实用性。
• 通过在确定性计算过程中实现概率的连贯传播，弥合统计计算与数值分析之间的鸿沟。

提出的方法

• 本文提出一种概率积分器，将被积函数建模为随机过程（通常为高斯过程），从而在积分值上诱导出后验分布。
• 采用贝叶斯推断，基于采样的函数值评估结果更新对积分的信念，将数值积分视为统计推断问题。
• 通过构建在有限样本量和渐近情形下均校准的可信区间，确保不确定性量化的统计有效性。
• 利用蒙特卡洛和准蒙特卡洛采样策略，在保持采样效率的同时嵌入不确定性量化。
• 通过利用条件独立性和条件分布，将该方法扩展至复杂流水线，实现概率分布在确定性计算步骤中的传播。
• 在统计建模、计算机图形学和石油油藏模拟等实际问题中实现并验证了该框架。

实验结果

研究问题

• RQ1 如何在形式上将科学计算中的数值误差视为认知不确定性，并利用统计方法进行分析？
• RQ2 概率积分器是否能在有限计算水平下提供统计上有效的不确定性量化，而不仅限于渐近情形？
• RQ3 概率积分在多大程度上能保持蒙特卡洛方法的采样效率，同时提供有原则的误差评估？
• RQ4 在克里金插值和油藏建模等高成本科学应用中，该方法表现如何？
• RQ5 能否在复杂计算流水线中连贯地传播数值积分的不确定性？

主要发现

• 该概率积分器为积分结果提供了完整的后验分布，实现了在有限计算水平下统计上有效的有原则不确定性量化。
• 该方法的不确定性量化计算成本至多为立方级，使其在昂贵积分问题中具有可行性。
• 在克里金插值及类似场景中，该方法在计算效率与可靠误差评估之间取得平衡，为不确定性敏感应用提供了实用解决方案。
• 该框架成功地在确定性计算流水线中传播了不确定性，保持了连贯性与统计有效性。
• 在统计建模、计算机图形学和油藏模拟中的应用，展示了该方法在真实科学问题中的鲁棒性与实际效用。
• 将概率数值方法整合到科学计算中，能够更准确地评估数值误差对科学结论的影响。