[论文解读] An easy-to-use empirical likelihood ABC method

Sanjay Chaudhuri, Subhroshekhar Ghosh+2 more|arXiv (Cornell University)|Oct 3, 2018

Markov Chains and Monte Carlo Methods参考文献 32被引用 4

一句话总结

本文提出了一种新颖且易于使用的基于经验似然的ABC方法，仅需一个摘要统计量、其观测值以及在任意参数值下模拟该统计量的能力。该方法在不依赖解析可处理的估计方程或核近似的情况下实现了后验一致性，为现有ABC方法提供了一种稳健、数据驱动的替代方案，具有更高的计算可行性与可解释性。

ABSTRACT

Many scientifically well-motivated statistical models in natural, engineering and environmental sciences are specified through a generative process, but in some cases it may not be possible to write down a likelihood for these models analytically. Approximate Bayesian computation (ABC) methods, which allow Bayesian inference in these situations, are typically computationally intensive. Recently, computationally attractive empirical likelihood based ABC methods have been suggested in the literature. These methods heavily rely on the availability of a set of suitable analytically tractable estimating equations. We propose an easy-to-use empirical likelihood ABC method, where the only inputs required are a choice of summary statistic, it's observed value, and the ability to simulate summary statistics for any parameter value under the model. It is shown that the posterior obtained using the proposed method is consistent, and its performance is explored using various examples.

研究动机与目标

• 开发一种适用于似然函数不可计算模型的实用且用户友好的ABC方法，尤其适用于自然与环境科学领域。
• 消除对解析可处理估计方程的需求，从而克服现有经验似然ABC方法在适用性上的限制。
• 在较弱的正则性条件下确保后验一致性，使复杂生成模型中的可靠贝叶斯推断成为可能。
• 通过避免多变量正态性假设，提供一种计算效率更高的标准ABC与合成似然方法的替代方案。

提出的方法

• 该方法基于模拟的摘要统计量与观测统计量构建经验似然函数，无需显式估计方程。
• 采用约束优化框架在参数空间上定义类似似然的函数，通过凸包约束确保可行性。
• 该方法利用数据克隆原理，随着模拟复制次数的增加，经验似然会集中于真实参数值。
• 后验通过归一化经验似然定义，避免了标准ABC中使用的核密度近似。
• 该方法依赖于重复模拟下经验似然的渐近行为，随着模拟次数增加，确保一致性。
• 其完全依赖数据且可解释，对摘要统计量的分布无参数假设。

实验结果

研究问题

• RQ1 能否开发一种计算高效且易于实现的ABC方法，避免对解析可处理估计方程的需求？
• RQ2 当仅有摘要统计量和模拟能力时，基于经验似然的ABC方法是否能实现后验一致性？
• RQ3 与现有ABC方法和合成似然方法相比，该方法在准确性和鲁棒性方面的表现如何？
• RQ4 在摘要统计量存在非正态依赖结构时，该方法是否仍保持有效性，且不依赖正态性假设？
• RQ5 该方法对模型误设和高维摘要统计量是否具有鲁棒性？

主要发现

• 所提出的基于经验似然的ABC方法实现了后验一致性，随着模拟次数增加，后验弱收敛于真实参数值的点质量分布。
• 该方法无需任何解析可处理的估计方程，因此可适用于更广泛的不可计算似然模型。
• 即使摘要统计量的分布非正态，后验集中现象依然存在，表明对正态性假设违反具有鲁棒性。
• 该方法避免了核密度近似，降低了对带宽选择的敏感性，提升了可解释性。
• 理论结果表明，后验对真实参数值邻域外任何参数集的赋值为零，证实了一致性。
• 数值例子表明，该方法在各种模型中均具有实际可行性与竞争力，包括具有复杂依赖结构的模型。