[论文解读] Importance sampling type correction of Markov chain Monte Carlo and exact approximations

Matti Vihola, Jouni Helske+1 more|arXiv (Cornell University)|Sep 8, 2016

Markov Chains and Monte Carlo Methods被引用 3

一句话总结

本文提出了一种重要性抽样（IS）类型的校正方法，用于修正在近似边缘分布上运行的近似马尔可夫链蒙特卡洛（MCMC）输出，以实现在MCMC应用于近似边缘分布时对联合分布的一致推断。通过利用无偏估计量，该方法实现了简便的并行化处理，并在计算效率和方差控制方面优于延迟接受MCMC，尤其在具有粒子平滑器的状态空间模型中表现更优。

ABSTRACT

We use an importance sampling (IS) type correction of approximate Markov chain Monte Carlo (MCMC) output in order to provide consistent estimators. The IS approach, based on unbiased estimators, provides often a natural alternative to delayed acceptance (DA) MCMC, but contrary to DA-MCMC, benefits from straightforward parallelisation. We focus on the case where the MCMC simulation is conducted on an approximate marginal distribution, and the IS type correction leads to consistent inference on the corresponding joint distribution. Such a case allows for importance sampling analogues of pseudo-marginal type MCMC methods, such as the grouped independence Metropolis-Hastings and the particle marginal Metropolis-Hastings. We prove strong consistency of the suggested estimators under mild assumptions, and provide central limit theorems with expressions for asymptotic variances. The methods are illustrated in practice with state space models, where we also remind that IS correction provides an easy way to combine several independent particle smoothers in order to obtain a consistent estimator with natural confidence intervals. Our experimental results are promising and show that IS type approach can be favourable against a computationally comparable DA scheme.

研究动机与目标

• 解决在从有偏边缘分布抽样时近似MCMC方法的不一致性问题。
• 为当MCMC应用于近似目标时，建立对联合分布的一致推断框架。
• 提供一种计算效率更高的延迟接受MCMC替代方法，具有更好的并行化支持。
• 将该方法扩展至伪边缘MCMC方法，如分组独立Metropolis-Hastings和粒子边际Metropolis-Hastings。
• 建立理论保证，包括在温和正则性条件下强一致性和渐近正态性，并给出显式的方差表达式。

提出的方法

• 对在近似边缘分布上运行MCMC所生成的输出应用重要性抽样校正，使用似然比的无偏估计量。
• 通过将MCMC样本按真实密度与近似密度之比所得到的重要性权重进行加权，构建真实联合分布下期望的一致估计量。
• 利用伪边缘MCMC的结构，推导出如分组独立Metropolis-Hastings和粒子边际Metropolis-Hastings等方法的重要性抽样类比。
• 通过在近似和提议机制满足温和正则性条件下证明强一致性，确保理论有效性。
• 推导出具有显式渐近方差表达式的中心极限定理，以支持置信区间推断。
• 在状态空间模型中使用独立的粒子平滑器，通过IS校正将它们组合起来，形成具有自然方差估计的一致估计量。

实验结果

研究问题

• RQ1 当MCMC应用于近似边缘分布时，重要性抽样校正能否一致地恢复真实联合分布下的期望？
• RQ2 在计算效率和方差性能方面，所提出的IS校正与延迟接受MCMC相比如何？
• RQ3 IS校正能否自然地扩展至伪边缘MCMC方法，如分组独立Metropolis-Hastings和粒子边际Metropolis-Hastings？
• RQ4 在温和假设下，校正后估计量的理论性质（如强一致性和渐近正态性）是什么？
• RQ5 IS校正能否用于在状态空间模型中组合多个独立的粒子平滑器，以获得具有可靠置信区间的稳定估计量？

主要发现

• 当MCMC在近似边缘分布上运行时，所提出的IS校正可产生真实联合分布下期望的强一致估计量。
• 该方法提供了显式的渐近方差表达式，从而支持有效的置信区间和统计推断。
• IS方法支持简便的并行化处理，相较于延迟接受MCMC具有实际优势。
• 在状态空间模型中，通过IS校正组合多个独立的粒子平滑器，可得到具有自然置信区间的稳定估计量。
• 实验结果表明，IS方法在方差和效率方面优于计算成本相当的延迟接受方案。