[论文解读] Improved Convergence of Regression Adjusted Approximate Bayesian Computation

Wentao Li, Paul Fearnhead|arXiv (Cornell University)|Sep 22, 2016

Markov Chains and Monte Carlo Methods参考文献 38被引用 5

一句话总结

本文通过证明在最优带宽选择下，回归调整的近似贝叶斯计算（ABC）后验分布渐近地正确量化了不确定性，从而改进了回归调整的ABC。此外，它进一步表明，使用该设置的重要性抽样算法在数据规模增大时，接受概率趋近于1，避免了标准ABC在小带宽下出现的高蒙特卡洛误差。

ABSTRACT

We present a number of surprisingly strong asymptotic results for the regression-adjusted version of Approximate Bayesian Computation (ABC) introduced by Beaumont et al. (2002). We show that for an appropriate choice of the bandwidth in ABC, using regression-adjustment will lead to an ABC posterior that, asymptotically, correctly quantifies uncertainty. Further- more, for such a choice of bandwidth we can implement an importance sampling algorithm to sample from the ABC posterior whose acceptance probability tends to 1 as we increase the data sample size. This compares favorably to results for standard ABC, where the only way to obtain an ABC posterior that correctly quantifies uncertainty is to choose a much smaller bandwidth, for which the acceptance probability tends to 0 and hence for which Monte Carlo error will dominate.

研究动机与目标

• 解决标准ABC在使用小带宽时不确定性量化不准确的问题。
• 开发一种回归调整的ABC方法，使其在渐近条件下保持准确的后验推断。
• 确定一种带宽选择，使通过重要性抽样实现高效抽样并具有高接受概率。
• 证明ABC中的回归调整可渐近地实现有效的不确定性量化和计算效率。

提出的方法

• 作者分析了在特定带宽选择下回归调整ABC的渐近行为，该选择平衡了偏差与方差。
• 他们采用重要性抽样算法从ABC后验分布中抽样，利用回归调整提高提议效率。
• 带宽的选择使得ABC后验分布收敛到真实后验分布，并正确捕捉不确定性。
• 该方法依赖渐近理论，证明重要性抽样中的接受概率随着样本量增加而趋于1。
• 使用回归调整来校正摘要统计与参数之间的差异，从而改善后验近似。

实验结果

研究问题

• RQ1 在合适的带宽选择下，回归调整的ABC能否渐近地正确量化不确定性？
• RQ2 随着数据样本量增加，回归调整ABC的重要性抽样接受概率是否会收敛到1？
• RQ3 在蒙特卡洛误差和后验准确性方面，回归调整ABC与标准ABC相比表现如何？
• RQ4 何种带宽选择规则能够在ABC中同时实现有效推断和高抽样效率？

主要发现

• 在合适的带宽选择下，回归调整的ABC后验分布渐近地正确量化了不确定性。
• ABC后验的重要性抽样算法的接受概率随着数据样本量增加而趋于1。
• 这一表现与标准ABC形成鲜明对比：标准ABC为实现有效不确定性量化而需使用小带宽，但导致接受概率趋于0并产生高蒙特卡洛误差。
• 回归调整使得在不牺牲后验准确性的情况下实现高效抽样，即使在渐近条件下亦如此。