[论文解读] Constructing Summary Statistics for Approximate Bayesian Computation: Semi-automatic ABC

Paul Fearnhead, Dennis Prangle|arXiv (Cornell University)|Apr 7, 2010

Markov Chains and Monte Carlo Methods参考文献 38被引用 37

一句话总结

本文提出了一种半自动方法，用于在近似贝叶斯计算（ABC）中构建汇总统计量，通过在辅助模拟阶段估计参数的后验均值作为汇总统计量，显著提高了推断的准确性。该方法利用回归估计后验均值作为数据的函数，相较于经验性汇总统计量，实现了更高效、更精确的ABC推断。

ABSTRACT

Many modern statistical applications involve inference for complex stochastic models, where it is easy to simulate from the models, but impossible to calculate likelihoods. Approximate Bayesian computation (ABC) is a method of inference for such models. It replaces calculation of the likelihood by a step which involves simulating artificial data for different parameter values, and comparing summary statistics of the simulated data to summary statistics of the observed data. Here we show how to construct appropriate summary statistics for ABC in a semi-automatic manner. We aim for summary statistics which will enable inference about certain parameters of interest to be as accurate as possible. Theoretical results show that optimal summary statistics are the posterior means of the parameters. While these cannot be calculated analytically, we use an extra stage of simulation to estimate how the posterior means vary as a function of the data; and then use these estimates of our summary statistics within ABC. Empirical results show that our approach is a robust method for choosing summary statistics, that can result in substantially more accurate ABC analyses than the ad-hoc choices of summary statistics proposed in the literature. We also demonstrate advantages over two alternative methods of simulation-based inference.

研究动机与目标

• 为解决在近似贝叶斯计算（ABC）中选择信息性汇总统计量的挑战，因为选择不当会导致推断效率低下且不准确。
• 开发一种系统性、数据驱动的方法，用于构建汇总统计量，以最小化ABC中的估计误差。
• 提供一种实用的半自动框架，利用模拟估计最优汇总统计量，而无需解析表达式。
• 通过使汇总统计量与感兴趣的参数后验均值对齐，提高ABC后验近似的准确性。

提出的方法

• 该方法提出将参数的后验均值作为理想汇总统计量，理论上可最小化估计损失。
• 通过回归方法，在辅助模拟阶段估计观测数据与参数后验均值之间函数关系。
• 将估计的后验均值函数用作ABC算法中的汇总统计量，替代经验性选择。
• 采用带宽参数的核密度估计来近似汇总统计量的似然，从而实现ABC后验计算。
• 该方法对模型误设具有鲁棒性，且无需完整似然，仅依赖于模型的正向模拟。
• 提供了理论依据，表明在正则条件下，随着带宽趋近于零，所得ABC后验收敛于真实后验。

实验结果

研究问题

• RQ1 如何构建ABC的汇总统计量，以最小化感兴趣参数的估计误差？
• RQ2 基于数据和模拟的方法能否在ABC推断中优于经验性汇总统计量？
• RQ3 为何使用后验均值作为ABC中汇总统计量具有理论依据？
• RQ4 与替代的基于模拟的推断方法相比，该半自动方法在性能上如何？
• RQ5 该方法在复杂随机模型中，能在多大程度上提高ABC后验近似的准确性？

主要发现

• 所提出的方法在ABC分析中显著优于文献中常用的经验证汇总统计量。
• 使用估计的后验均值作为汇总统计量，使得ABC后验更接近真实后验，其衡量指标为后验方差和均方误差。
• 该方法对模型复杂性具有鲁棒性，在真实似然不可计算时仍表现良好。
• 理论分析表明，基于所提汇总统计量的ABC后验，随着带宽趋于零，收敛于真实后验。
• 实证结果表明，该方法在估计精度和效率方面优于两种替代的基于模拟的推断技术。
• 辅助模拟阶段实现了对后验均值函数的准确估计，该函数作为最优汇总统计量，且无需解析计算。