[论文解读] Approximate Bayesian computation via empirical likelihood

Kerrie Mengersen, Pierre Pudlo+1 more|arXiv (Cornell University)|May 25, 2012

Markov Chains and Monte Carlo Methods参考文献 40被引用 6

一句话总结

本文提出ABCel，一种新颖的近似贝叶斯计算方法，该方法用经验似然替代模型模拟和ABC参数选择（摘要统计量、距离度量、容忍度），实现可证明收敛的推断并显著节省计算成本。该方法通过有效样本量自主评估性能，在群体遗传学和时间序列等复杂模型中表现出色。

ABSTRACT

Approximate Bayesian computation (ABC) has now become an essential tool for the analysis of complex stochastic models when the likelihood function is unavailable. The well-established statistical method of empirical likelihood however provides another route to such settings that bypasses simulations from the model and the choices of the ABC parameters (summary statistics, distance, tolerance), while being provably convergent in the number of observations. Furthermore, avoiding model simulations leads to significant time savings in complex models, such as those used in population genetics. The ABCel algorithm we develop in this paper also provides an evaluation of its own performance through an associated effective sample size. The method is illustrated using several examples, including estimation of standard and quantile distributions, and time series and population genetics models.

研究动机与目标

• 开发一种无需模型模拟和ABC参数调优的无似然贝叶斯推断方法。
• 提供一种可证明收敛的替代标准ABC的方法，不依赖于摘要统计量、距离度量或容忍度阈值。
• 通过消除模拟步骤，降低复杂模型（如群体遗传学模型）中的计算成本。
• 通过有效样本量估计提供内部性能度量，用于模型评估。
• 在多样化模型（包括时间序列和分位数分布）中展示该方法的鲁棒性与准确性。

提出的方法

• ABCel用经验似然替代传统ABC中基于模拟的似然近似，直接从观测数据构建似然函数，无需从模型中模拟数据。
• 该方法利用经验似然构建伪似然，其在正则条件下渐近有效，确保随着样本量增加而收敛。
• 它避开了选择摘要统计量、距离度量和容忍度水平的需求——这些是标准ABC中主观性与计算负担的主要来源。
• 该算法通过有效样本量（ESS）估计对后验质量进行自我评估，提供可靠性诊断。
• ABCel通过约束优化框架实现，即在由模型导出的矩条件约束下最大化经验似然。
• 该方法适用于似然不可计算但可获得估计方程或矩条件的模型。

实验结果

研究问题

• RQ1 能否利用经验似然构建一种无似然贝叶斯推断方法，以避免模型模拟和ABC调参？
• RQ2 所得到的ABCel方法在后验估计中是否具有渐近一致性和收敛性？
• RQ3 在复杂模型中，ABCel与标准ABC相比在计算效率和准确性方面表现如何？
• RQ4 ABCel能否在不依赖模拟的情况下提供可靠的内部性能度量（如有效样本量）？
• RQ5 ABCel在真实世界模型（如群体遗传学和时间序列）中的表现如何？

主要发现

• 随着观测数量增加，ABCel在后验估计中实现了可证明收敛，且无需模型模拟。
• 该方法消除了对摘要统计量、距离度量和容忍度水平等ABC参数调优的需求，降低了主观性与计算成本。
• 通过用经验似然替代模拟，ABCel在复杂模型（如群体遗传学模型）中实现了显著的时间节省。
• 该算法提供内部有效样本量估计，可实现对后验可靠性的自我评估。
• 实证结果表明，ABCel在多样化模型中表现良好，包括标准分布与分位数分布、时间序列以及群体遗传学模型。
• 该方法在保持与标准ABC相当的准确性的同时，展现出更高的计算效率和鲁棒性。