[论文解读] Efficient learning in ABC algorithms

Mohammed Sedki, Pierre Pudlo+3 more|arXiv (Cornell University)|Oct 4, 2012

Markov Chains and Monte Carlo Methods参考文献 23被引用 8

一句话总结

本文提出了一种自适应、自校准的顺序蒙特卡洛（SMC）算法，用于近似贝叶斯计算（ABC），显著减少了模型模拟次数，同时保持后验近似的准确性。通过动态调整容差水平和重采样策略，该方法在种群遗传学应用中实现的速度比标准ABC拒绝采样快两倍，且达到相似结果所需的模拟次数减少了50%。

ABSTRACT

Approximate Bayesian Computation has been successfully used in population genetics to bypass the calculation of the likelihood. These methods provide accurate estimates of the posterior distribution by comparing the observed dataset to a sample of datasets simulated from the model. Although parallelization is easily achieved, computation times for ensuring a suitable approximation quality of the posterior distribution are still high. To alleviate the computational burden, we propose an adaptive, sequential algorithm that runs faster than other ABC algorithms but maintains accuracy of the approximation. This proposal relies on the sequential Monte Carlo sampler of Del Moral et al. (2012) but is calibrated to reduce the number of simulations from the model. The paper concludes with numerical experiments on a toy example and on a population genetic study of Apis mellifera, where our algorithm was shown to be faster than traditional ABC schemes.

研究动机与目标

• 为在似然函数不可计算的复杂模型中减轻ABC方法的计算负担，特别是在似然函数不可计算的似然自由推断中。
• 开发一种高效、自适应的顺序蒙特卡洛算法，最小化模型模拟次数而不牺牲后验近似质量。
• 在SMC过程中动态校准容差水平，以提高采样效率和收敛速度。
• 在包含 *Apis mellifera* 的一个简单示例和一个真实世界种群遗传学数据集上评估该方法。
• 为实际应用中算法参数的调优，特别是粒子数 $ N $，提供实用指导。

提出的方法

• 该方法采用顺序蒙特卡洛（SMC）框架，从较大的初始容差水平 $ ho_0 $ 开始，并在迭代过程中逐步降低，以细化后验近似。
• 它引入了一种自校准机制，基于有效样本量和模拟与观测摘要统计量之间距离的分布，估计每一步的最优容差水平。
• 该算法使用重采样和粒子变异步骤，将粒子向与观测数据一致的参数空间区域推进，由逐步降低的容差水平引导。
• 容差水平通过基于有效样本量（ESS）的标准进行自适应调整，确保粒子数量足够以维持精度。
• 最终输出通过在最终粒子集上应用一个容差较小的拒绝步骤 $ ho_T $ 获得，以确保最终样本近似于目标后验分布。
• 该方法设计为对初始参数选择不敏感，并包含一个两阶段调优过程：首先使用较小的 $ N $ 进行预运行以估计 $ T $ 和 $ ho_T $，然后使用更大的 $ N $ 进行完整运行。

实验结果

研究问题

• RQ1 自适应、自校准的SMC-ABC算法是否能在不牺牲精度的前提下，减少ABC中实现准确后验近似的模型模拟次数？
• RQ2 与标准ABC拒绝采样相比，该算法在计算效率和精度方面的表现如何？
• RQ3 在复杂模型中，动态调整容差水平对后验近似收敛性和稳定性有何影响？
• RQ4 在实际应用中，如何有效调优粒子数 $ N $，以在计算成本和精度之间取得平衡？
• RQ5 该算法在具有高维摘要统计量的真实世界种群遗传数据集上可应用到何种程度？

主要发现

• 在 *Apis mellifera* 种群遗传学案例研究中，所提算法相比标准ABC拒绝采样，计算效率提高了约2倍。
• 与标准ABC拒绝算法相比，达到相似质量后验近似的模型模拟次数减少了约50%。
• 该算法在第 $ T = 14 $ 次迭代时达到收敛，此时容差水平 $ ho_T \to 0.1 $，表明容差调度的有效适应。
• 如图7所示，五个独立重复实验中，两个混合率的后验估计值保持稳定，证实了该方法的鲁棒性。
• 自校准机制成功减少了对容差水平的人工调优需求，实现了更快的收敛和更高的采样效率。
• 该方法在简单示例和真实种群遗传数据集上均表现出一致性能，验证了其在复杂、高维场景下的实际应用价值。