[论文解读] Batch simulations and uncertainty quantification in Gaussian process surrogate approximate Bayesian computation

Marko Järvenpää, Aki Vehtari+1 more|arXiv (Cornell University)|Oct 14, 2019

Markov Chains and Monte Carlo Methods被引用 6

一句话总结

本文提出贝叶斯ABC（Bayesian ABC），一种通过使用高斯过程（GP）代理模型来量化因模拟次数有限而导致的后验估计不确定性，从而改进近似贝叶斯计算（ABC）的框架。该框架引入了批处理-顺序贝叶斯实验设计，以并行化计算昂贵的模拟，显著减少实际运行时间（wall-time），同时保持精度，并为ABC后验矩提供了数值不确定性传播。

ABSTRACT

The computational efficiency of approximate Bayesian computation (ABC) has been improved by using surrogate models such as Gaussian processes (GP). In one such promising framework the discrepancy between the simulated and observed data is modelled with a GP which is further used to form a model-based estimator for the intractable posterior. In this article we improve this approach in several ways. We develop batch-sequential Bayesian experimental design strategies to parallellise the expensive simulations. In earlier work only sequential strategies have been used. Current surrogate-based ABC methods also do not fully account the uncertainty due to the limited budget of simulations as they output only a point estimate of the ABC posterior. We propose a numerical method to fully quantify the uncertainty in, for example, ABC posterior moments. We also provide some new analysis on the GP modelling assumptions in the resulting improved framework called Bayesian ABC and discuss its connection to Bayesian quadrature (BQ) and Bayesian optimisation (BO). Experiments with toy and real-world simulation models demonstrate advantages of the proposed techniques.

研究动机与目标

• 解决基于GP代理模型的ABC中顺序模拟效率低下的问题，该问题限制了在多核系统上的可扩展性。
• 量化由于模拟预算有限而引起的ABC后验汇总统计量（如均值和方差）的不确定性，这是先前研究中的一个空白。
• 开发一种框架，同时处理GP近似带来的不确定性与有限模拟预算带来的不确定性，从而提高推断的可靠性。
• 通过使用贝叶斯实验设计在ABC推断中实现批处理模拟，提升样本效率与实际运行时间性能。
• 建立贝叶斯ABC、贝叶斯求积（Bayesian quadrature, BQ）与贝叶斯优化（Bayesian optimization, BO）之间的概念与方法论联系，以深化理论理解。

提出的方法

• 使用高斯过程（GP）对观测数据与模拟数据之间的差异进行建模，从而实现对摘要统计量的概率预测。
• 应用批处理-顺序贝叶斯实验设计（通过EIV和EIMAD获取函数）以并行选择多个模拟点，提高实际运行时间效率。
• 采用决策理论框架选择批处理点，以最小化预期后验方差，平衡探索与利用。
• 通过数值积分将GP差异模型中的不确定性传播到ABC后验中，实现对后验矩不确定性的量化。
• 将贝叶斯ABC形式化为对不可解析的ABC后验的GP-based估计器，并通过蒙特卡洛采样GP预测来实现不确定性量化。
• 结合MCMC采样进行后验近似，并使用MAXV、MAXMAD、RAND、EIV和EIMAD等获取函数，在批处理与顺序设置下比较性能。

实验结果

研究问题

• RQ1 批处理-顺序贝叶斯实验设计在不牺牲精度的前提下，如何提升基于GP代理模型的ABC的实际运行时间效率？
• RQ2 当仅能进行有限次模拟时，ABC后验矩的不确定性在多大程度上可以被量化？
• RQ3 在批处理设置下，不同获取函数（如EIV、EIMAD、MAXV）在后验近似质量与计算效率方面如何比较？
• RQ4 贝叶斯ABC、贝叶斯求积（BQ）与贝叶斯优化（BO）之间存在何种关系？BQ中的洞见如何用于ABC中的不确定性量化？
• RQ5 所提出的框架对模型误设的鲁棒性如何？不确定性估计如何反映后验近似的结果收敛性与可靠性？

主要发现

• 所提出的批处理-顺序策略（EIV、EIMAD）与顺序方法相比，显著减少了实际运行时间，且后验近似精度损失极小。
• EIV与EIMAD获取函数产生的后验估计比MAXV与MAXMAD更稳定、更准确，其中EIV在不确定性量化方面表现略优。
• RAND虽完全可并行化，但在高维问题中表现较差，凸显了基于信息的批处理选择优于随机采样的必要性。
• 在Lorenz模型与细菌感染模型上，成功展示了对ABC后验期望（如均值与95%置信区间）的不确定性量化，随着迭代次数增加，结果逐渐收敛至真实值。
• 在细菌感染模型中，即使模拟次数有限，贝叶斯ABC框架在600次迭代后仍能对后验矩实现严格的不确定性量化。
• 与贝叶斯求积（BQ）的联系表明，未来有望实现分析性不确定性传播，从而提高精度并降低计算成本。