[论文解读] Resampling from the past to improve on MCMC algorithms

Yves F. Atchadé|ArXiv.org|May 16, 2006

Markov Chains and Monte Carlo Methods参考文献 18被引用 6

一句话总结

本文提出了一种从历史状态中重采样的技术，通过从历史状态中重采样以改善混合性，从而加速马尔可夫链蒙特卡洛（MCMC）算法的收敛。该方法在保持目标分布不变的同时，在贝叶斯随机波动率和系统发育模型中分别实现了最高50倍和100倍的效率提升，前提是采用适当的重采样调度。

ABSTRACT

We introduce the idea that resampling from past observations in a Markov Chain Monte Carlo sampler can fasten convergence. We prove that proper resampling from the past does not disturb the limit distribution of the algorithm. We illustrate the method with two examples. The first on a Bayesian analysis of stochastic volatility models and the other on Bayesian phylogeny reconstruction.

研究动机与目标

• 解决MCMC算法中混合缓慢的问题，该问题阻碍了实际的贝叶斯推断。
• 开发一种通用方法以在不扭曲目标分布的前提下提高收敛速度。
• 证明从过去样本中重采样可以通过近似从不变分布中独立同分布采样来改善混合性。
• 将该框架扩展至使用收敛速度更快的辅助过程，以进一步提升效率。
• 在真实世界的贝叶斯模型上通过实证验证该方法，实现可测量的性能提升。

提出的方法

• 在预定时间点 $a_k$ 处，从过去状态的经验分布 $\{X_B, \ldots, X_{n-1}\}$ 中重采样生成 $X_n$，而非使用转移核 $P$。
• 采用重采样调度 $a_k = b_1 + b_2 k^\alpha$，其中 $\alpha > 1$，以确保渐近收敛并避免过度重采样。
• 应用重要性重采样，从一个混合速度更快的辅助马尔可夫链 $\{X^{(0)}_n\}$ 中进行，以提升性能。
• 证明只要调度满足 $a_n/n \to \infty$ 当 $n \to \infty$，重采样过程下的不变分布保持不变。
• 利用泊松方程和鞅逼近技术，建立重采样链的几何遍历性以及其上界的一致性。
• 利用大数定律和一致可积性，证明经验测度 $\mu_n$ 收敛于目标分布。

实验结果

研究问题

• RQ1 在MCMC链中从过去状态重采样是否可以在不扭曲目标分布的前提下加速收敛？
• RQ2 何种重采样调度可同时确保快速收敛和不变测度的保持？
• RQ3 使用一个混合速度更快的辅助过程如何提升该重采样方法的效率？
• RQ4 在实际的贝叶斯模型中，从过去重采样在多大程度上能降低自相关性并提高有效样本量？
• RQ5 该重采样方法的理论保证能否推广至复杂模型，如随机波动率和系统发育树模型？

主要发现

• 只要重采样调度满足 $a_n/n \to \infty$，从过去重采样即可保持目标分布 $\pi$ 不变。
• 与标准吉布斯采样相比，该方法在贝叶斯随机波动率模型中实现了50倍的采样效率提升。
• 在贝叶斯系统发育重建中，所提出的方法相比基线MCMC采样器效率提升了100倍。
• 理论分析证实，在辅助过程满足较弱的矩条件和偏移条件时，重采样链具有几何遍历性。
• 从辅助链进行重要性重采样可确保重采样链继承辅助链的收敛特性。
• 通过一致可积性和加权平均的几乎必然收敛，建立了经验测度 $\mu_n$ 收敛于目标测度 $\pi$。