[论文解读] A comparison of emulation methods for Approximate Bayesian Computation

Franck Jabot, Guillaume Lagarrigues+2 more|arXiv (Cornell University)|Dec 16, 2014

Markov Chains and Monte Carlo Methods参考文献 38被引用 11

一句话总结

本文提出并评估了统计模拟方法，以加速计算密集型模型的近似贝叶斯计算（ABC）。通过使用少量运行训练的快速统计模拟器替代昂贵的模型模拟，作者展示了一种新型的序列ABC算法，在随机生态模型中将计算时间减少了两倍，相关R代码已集成至EasyABC软件包中。

ABSTRACT

Approximate Bayesian Computation (ABC) is a family of statistical inference techniques, which is increasingly used in biology and other scientific fields. Its main benefit is to be applicable to models for which the computation of the model likelihood is intractable. The basic idea of ABC is to empirically approximate the model likelihood by using intensive realizations of model runs. Due to computing time limitations, ABC has thus been mainly applied to models that are relatively quick to simulate. We here aim at briefly introducing the field of statistical emulation of computer code outputs and to demonstrate its potential for ABC applications. Emulation consists in replacing the costly to simulate model by another (quick to simulate) statistical model called emulator or meta-model. This emulator is fitted to a small number of outputs of the original model, and is subsequently used as a surrogate during the inference procedure. In this contribution, we first detail the principles of model emulation, with a special reference to the ABC context in which the description of the stochasticity of model realizations is as important as the description of the trends linking model parameters and outputs. We then compare several emulation strategies in an ABC context, using as case study a stochastic ecological model of community dynamics. We finally describe a novel emulation-based sequential ABC algorithm which is shown to decrease computing time by a factor of two on the studied example, compared to previous sequential ABC algorithms. Routines to perform emulation-based ABC were made available within the R package EasyABC.

研究动机与目标

• 解决将近似贝叶斯计算（ABC）应用于复杂、计算耗时的模型时所面临的高计算成本问题。
• 探索统计模拟作为在ABC推断过程中用快速代理模型替代昂贵模型运行的手段。
• 在ABC背景下评估多种模拟策略，特别关注对模型输出趋势和随机性的建模。
• 开发并验证一种基于模拟的新型序列ABC算法，以提高计算效率。
• 通过R软件包EasyABC提供易于使用的模拟ABC实现。

提出的方法

• 作者使用统计模拟器（也称元模型）基于少量模拟运行来近似计算昂贵模型的输出。
• 模拟器被训练以捕捉模型输出的均值（趋势）和方差（随机性）作为输入参数的函数。
• 本研究在ABC背景下比较了多种模拟技术，包括高斯过程和多项式混沌展开，尤其关注随机性至关重要的场景。
• 提出一种新的序列ABC算法，通过迭代优化模拟器并聚焦于后验密度较高的参数区域进行模拟。
• 该算法利用模拟器指导参数选择，从而减少所需模型模拟的次数。
• 实现部分已集成至R软件包EasyABC中，支持可重现且易于访问的基于模拟的ABC工作流。

实验结果

研究问题

• RQ1 在必须准确捕捉模型趋势和随机性的前提下，哪些统计模拟方法在近似贝叶斯计算中最为有效？
• RQ2 如何将模拟方法整合到序列ABC框架中以提高计算效率？
• RQ3 在不损害推断准确性的前提下，模拟方法能在多大程度上减少ABC中所需的模型模拟次数？
• RQ4 与现有序列ABC方法相比，所提出的基于模拟的序列ABC算法在计算时间上的表现如何？
• RQ5 所提出的方法能否有效应用于具有不可解析似然的复杂随机生态模型？

主要发现

• 在案例研究中，基于模拟的新型序列ABC算法相比以往的序列ABC方法，将计算时间减少了两倍。
• 同时对趋势和随机性进行建模的模拟策略——如具有异方差噪声的高斯过程——相比忽略变异性的情况，能提供更准确的后验近似。
• 仅需少量初始模型运行（例如50–100次）即可训练出高效的模拟器，显著减少后续模拟的需求。
• 尽管计算负载大幅降低，基于模拟的方法仍保持了良好的后验推断准确性。
• 包含已实现代码的R软件包EasyABC，使研究人员能够以极少的额外编码将该方法应用于自身的ABC问题。