[论文解读] Probabilistic Integration

François‐Xavier Briol, Chris J. Oates+3 more|arXiv (Cornell University)|Dec 3, 2015

Model Reduction and Neural Networks被引用 5

一句话总结

本文引入了用于数值积分的概率数值方法，通过积分的后验分布将数值误差建模为认识不确定性。该研究首次建立了后验收缩的理论速率，表明这些方法在实现蒙特卡洛方法采样效率的同时，为科学结论提供了合理的不确定性量化。

ABSTRACT

A research frontier has emerged in scientific computation, wherein numerical error is regarded as a source of epistemic uncertainty that can be modelled. This raises several statistical challenges, including the design of statistical methods that enable the coherent propagation of probabilities through a (possibly deterministic) computational work-flow. This paper examines the case for probabilistic numerical methods in routine statistical computation. Our focus is on numerical integration, where a probabilistic integrator is equipped with a full distribution over its output that reflects the presence of an unknown numerical error. Our main technical contribution is to establish, for the first time, rates of posterior contraction for these methods. These show that probabilistic integrators can in principle enjoy the best of both worlds, leveraging the sampling efficiency of Monte Carlo methods whilst providing a principled route to assess the impact of numerical error on scientific conclusions. Several substantial applications are provided for illustration and critical evaluation, including examples from statistical modelling, computer graphics and a computer model for an oil reservoir.

研究动机与目标

• 解决在科学计算中将数值误差量化为认识不确定性的挑战。
• 开发一种统计框架，以一致方式在确定性计算工作流中传播不确定性。
• 建立概率积分器在数值积分中理论收敛速率。
• 在真实世界的科学应用中评估该方法的性能，包括统计建模和油藏模拟。

提出的方法

• 该方法采用概率积分器，为积分估计分配一个概率分布，以反映由于数值近似带来的不确定性。
• 使用高斯过程先验对被积函数进行建模，从而在积分值上实现贝叶斯推断。
• 通过频率学派的非渐近分析推导后验收缩速率，将速率与被积函数的光滑性及求积点的设计联系起来。
• 该方法确保即使在底层计算为确定性的情况下，也能在计算流水线中实现一致的不确定性传播。
• 该方法被应用于多种领域，包括贝叶斯推断、计算机图形学和油藏模拟，以验证其鲁棒性和准确性。

实验结果

研究问题

• RQ1 能否以统计上一致的方式系统地将积分中的数值误差建模为认识不确定性？
• RQ2 概率积分器能够实现的后验收缩速率理论速率是什么？
• RQ3 在采样效率和不确定性量化方面，概率积分与标准蒙特卡洛方法相比表现如何？
• RQ4 在哪些真实世界的科学应用中，概率积分能提供有意义的不确定性量化，同时不牺牲效率？

主要发现

• 本文首次建立了概率积分器的后验收缩理论速率，表明在正则性条件下，其收敛速率达到最优。
• 概率积分在实现蒙特卡洛方法的采样效率的同时，为数值误差提供了合理的不确定性量化。
• 该方法在复杂应用中成功量化了不确定性，包括一个用于油藏的计算机模型，其中数值误差显著影响预测结果。
• 该框架实现了在确定性工作流中的一致不确定性传播，支持可靠的科学推断。