[论文解读] Tutorial on ABC rejection and ABC SMC for parameter estimation and model selection

Tina Toni, Michael P. H. Stumpf|arXiv (Cornell University)|Oct 23, 2009

Markov Chains and Monte Carlo Methods参考文献 7被引用 7

一句话总结

本教程介绍了在似然函数难以计算的复杂系统中进行贝叶斯参数估计与模型选择的ABC拒绝法和ABC SMC算法。它解释了如何通过使用自适应容差调度和扰动核，迭代改进粒子近似，从而在计算效率上优于标准拒绝采样方法的序列蒙特卡洛方法。

ABSTRACT

In this tutorial we schematically illustrate four algorithms: (1) ABC rejection for parameter estimation (2) ABC SMC for parameter estimation (3) ABC rejection for model selection on the joint space (4) ABC SMC for model selection on the joint space.

研究动机与目标

• 解决在系统生物学与种群生物学中常见的似然函数不可计算的模型中进行贝叶斯推断的挑战。
• 为初次接触基于模拟推断的研究人员提供一份全面且易于理解的ABC拒绝法与ABC SMC教程。
• 仅通过模拟实现准确的参数估计与模型选择，而无需显式计算似然函数。
• 展示序列方法（ABC SMC）如何相比基础拒绝采样降低计算成本。

提出的方法

• ABC拒绝法从先验中抽取参数，模拟数据，并在模拟数据与观测数据的距离在容差ε范围内时接受该参数。
• ABC SMC使用一系列递减的容差水平ε₁ > ε₂ > … > ε_T，通过迭代方式逐步改进后验的粒子近似。
• 在每一步中，使用核函数（如高斯随机游走）对粒子进行扰动，若模拟数据与观测数据的距离低于当前容差则接受该粒子。
• 在每个群体中为粒子分配权重，以考虑提议分布并改善后验近似。
• 在模型选择中，探索模型与参数的联合空间，通过接受的粒子估计后验模型概率的边际分布。
• 在序列采样过程中，对模型和参数分量均使用扰动核，从而能够探索复杂且高维的空间。

实验结果

研究问题

• RQ1 当似然函数不可计算或计算成本过高时，如何进行参数估计？
• RQ2 ABC拒绝法与ABC SMC在计算效率与准确性方面的关键差异与权衡是什么？
• RQ3 ABC方法如何扩展以在模型与参数的联合空间中实现模型选择？
• RQ4 ABC SMC算法在采样效率与收敛速度方面相比ABC拒绝法有多大改进？
• RQ5 如何利用序列ABC算法一致地估计边际后验模型概率？

主要发现

• 由于拒绝率过高，ABC拒绝法在计算上效率低下，尤其是在容差ε减小时更为明显。
• ABC SMC通过使用一系列递减的容差和自适应粒子传播显著提升了计算效率。
• 给定模型的边际后验模型概率被估计为最终群体中属于该模型的接受粒子所占比例。
• 在模型选择中，随着粒子数N的增加，ABC SMC能保持对后验模型概率的一致估计。
• ABC SMC的最终群体T提供了一个加权样本，近似表示联合后验P(m, θ|D₀)，且各群体间的权重已归一化。
• 该方法使得在似然函数不可用或计算成本过高的复杂动态系统中实现一致推断成为可能。