[论文解读] On the Markov chain central limit theorem

Galin L. Jones|ArXiv.org|Sep 7, 2004

Markov Chains and Monte Carlo Methods参考文献 55被引用 9

一句话总结

本文建立了广义状态空间马尔可夫链的中心极限定理（CLT）成立的条件，重点关注MCMC中常见的漂移条件与极小化条件之间的联系，以及与经典混合过程结果的关系。研究表明，由漂移条件保证的几何遍历性，可推出渐近不相关性，从而确保遍历平均的CLT成立，使MCMC模拟中的有效推断成为可能。

ABSTRACT

The goal of this expository paper is to describe conditions which guarantee a central limit theorem for functionals of general state space Markov chains. This is done with a view towards Markov chain Monte Carlo settings and hence the focus is on the connections between drift and mixing conditions and their implications. In particular, we consider three commonly cited central limit theorems and discuss their relationship to classical results for mixing processes. Several motivating examples are given which range from toy one-dimensional settings to complicated settings encountered in Markov chain Monte Carlo.

研究动机与目标

• 阐明广义状态空间马尔可夫链泛函的中心极限定理（CLT）成立的条件，特别是在马尔可夫链蒙特卡洛（MCMC）设置下。
• 弥合基于漂移与极小化条件的现代MCMC理论与经典混合过程结果之间的差距。
• 证明由漂移条件所隐含的几何遍历性，可确保渐近不相关性，从而保证遍历平均的CLT成立。
• 为复杂MCMC应用（如空间Gibbs模型和随机游走Metropolis-Hastings算法）提供验证CLT有效性的实用准则。
• 强调CLT存在的重要性，因为其允许对MCMC输出中的渐近方差进行估计，这对评估收敛性和精度至关重要。

提出的方法

• 利用漂移与极小化条件，建立Harris常返马尔可夫链的几何遍历性，确保其以几何速率收敛到不变测度。
• 应用Meyn和Tweedie的定理1，表明若漂移条件对某函数 $ V $ 成立且满足 $ f^2(x) \leq c V(x) $，则 $ \bar{f}_n $ 满足CLT。
• 通过验证漂移条件（如 $ V(x) = c \pi(x)^{-1/2} $）分析随机游走Metropolis-Hastings算法，确认其几何遍历性，从而验证CLT的有效性。
• 证明当马尔可夫链几何遍历且满足漂移条件（5）时，其为渐近不相关，从而有 $ \sigma_f^2 < \infty $，且CLT成立。
• 利用耦合与耦合时间论证，将几何遍历性与混合性质联系起来，表明强混合性在可积条件下可推出CLT。
• 将混合过程的结果（如泛函CLT、强不变原理）应用于MCMC，从而实现对 $ \sigma_f^2 $ 的方差估计技术。

实验结果

研究问题

• RQ1 在何种马尔可夫核与函数 $ f $ 的条件下，遍历平均 $ \bar{f}_n $ 满足中心极限定理？
• RQ2 在马尔可夫链CLT的语境下，漂移与极小化条件如何与经典混合条件相关联？
• RQ3 由漂移条件所隐含的几何遍历性，能否保证MCMC估计量的CLT？
• RQ4 渐近不相关性（即 $ \text{Cov}(f(X_0), f(X_n)) \to 0 $）对CLT存在的影响是什么？
• RQ5 如何将混合过程的结果应用于复杂MCMC设置中，以验证基于CLT的推断？

主要发现

• 通过漂移与极小化条件建立的几何遍历性，意味着马尔可夫链是渐近不相关的，这足以保证CLT成立。
• 对于随机游走Metropolis-Hastings算法，当满足 $ \lim_{|x|\to\infty} \frac{x}{|x|} \cdot \nabla \log \pi(x) = -\infty $ 等条件时，几何遍历性成立，从而在 $ \mathbb{E}_\pi f^2 < \infty $ 时保证 $ \bar{f}_n $ 的CLT。
• 若 $ \sigma_f^2 = \text{Var}_\pi(f) + 2\sum_{i=1}^\infty \text{Cov}_\pi(f(X_0), f(X_i)) < \infty $，则 $ \sqrt{n}(\bar{f}_n - \mathbb{E}_\pi f) \xrightarrow{d} \mathcal{N}(0, \sigma_f^2) $ 的CLT成立，而该条件在几何遍历性下可被保证。
• CLT的存在对MCMC至关重要，因为它允许对渐近方差 $ \sigma_f^2 $ 进行一致估计，而这是评估 $ \bar{f}_n $ 精度所必需的。
• 漂移条件（如 $ PV(x) \leq \lambda V(x) + b \mathbf{1}_C(x) $）为高维或难以处理的模型中验证CLT条件提供了构造性工具。
• 本文表明，经典混合过程结果（如泛函CLT）适用于MCMC，可用于估计 $ \sigma_f^2 $，尽管此处未详细讨论此类估计。