[论文解读] Regeneration and Fixed-Width Analysis of Markov Chain Monte Carlo Algorithms

Krzysztof Łatuszyński|ArXiv.org|Jul 27, 2009

Markov Chains and Monte Carlo Methods参考文献 5被引用 4

一句话总结

本文为马尔可夫链蒙特卡洛（MCMC）估计器开发了基于再生的固定宽度和渐近置信区间方法，在再生条件下建立了中心极限定理，并放宽了对一致方差估计的假设。在漂移条件下提供了非渐近固定宽度结果，并证明了在路径稳定性条件下自适应MCMC的几乎必然收敛性，推进了在一般状态空间中无需有界性或紧致性约束的可靠MCMC推断的理论基础。

ABSTRACT

In the thesis we take the split chain approach to analyzing Markov chains and use it to establish fixed-width results for estimators obtained via Markov chain Monte Carlo procedures (MCMC). Theoretical results include necessary and sufficient conditions in terms of regeneration for central limit theorems for ergodic Markov chains and a regenerative proof of a CLT version for uniformly ergodic Markov chains with $E_πf^2< \infty.$ To obtain asymptotic confidence intervals for MCMC estimators, strongly consistent estimators of the asymptotic variance are essential. We relax assumptions required to obtain such estimators. Moreover, under a drift condition, nonasymptotic fixed-width results for MCMC estimators for a general state space setting (not necessarily compact) and not necessarily bounded target function $f$ are obtained. The last chapter is devoted to the idea of adaptive Monte Carlo simulation and provides convergence results and law of large numbers for adaptive procedures under path-stability condition for transition kernels.

研究动机与目标

• 建立遍历马尔可夫链中中心极限定理（CLT）的必要且充分的基于再生的条件。
• 放宽MCMC中渐近方差强一致估计所需假设，使在更弱的矩条件下也能构建置信区间。
• 在不假设目标函数有界或状态空间紧致的条件下，推导MCMC估计器的非渐近固定宽度置信区间。
• 分析自适应MCMC过程，并在转移核路径稳定性条件下证明几乎必然收敛性和大数定律。
• 通过分裂链和再生技术，统一并扩展固定宽度与渐近推断框架。

提出的方法

• 使用分裂链和再生技术将马尔可夫链分解为独立同分布的循环，从而将更新理论应用于MCMC估计器。
• 应用再生估计构造渐近方差的强一致估计量，减少对强矩或极小化假设的依赖。
• 采用漂移条件控制尾部行为，并推导固定宽度置信区间下均方误差（MSE）的非渐近界。
• 引入$(\varepsilon-\alpha)$-近似框架，量化一般遍历性下MCMC采样器的收敛速率。
• 使用混合鞅理论和$L^2$-有界性，证明在核路径稳定性条件下自适应MCMC序列的几乎必然收敛性。
• 应用耦合及耦合时间论证，在方差控制与收敛性证明中界定了条件数学期望的$L^2$-范数。

实验结果

研究问题

• RQ1 在一般遍历马尔可夫链中，$\sqrt{n}$-CLT 成立的基于再生的必要且充分条件是什么？
• RQ2 如何在对目标函数二阶矩要求更弱的假设下，为MCMC估计器构建渐近置信区间？
• RQ3 在非紧致状态空间且函数无界的条件下，MCMC估计器的非渐近固定宽度置信区间在何种条件下可保证？
• RQ4 何种条件可确保自适应MCMC算法的几乎必然收敛性和大数定律？
• RQ5 转移核的路径稳定性如何影响自适应MCMC过程的收敛性？

主要发现

• 通过再生方法，完整刻画了遍历马尔可夫链的$\sqrt{n}$-CLT，给出了以再生循环表示的必要且充分条件。
• 在$E_\pi f^2 < \infty$条件下，为均匀遍历链给出了CLT的再生证明，强化了MCMC推断的理论基础。
• 本文放宽了强一致方差估计的假设，使得在比以往要求更弱的矩条件下也能实现渐近置信区间。
• 在漂移条件下，即使目标函数$f$无界且状态空间非紧致，也推导出MCMC估计器的非渐近固定宽度置信区间。
• 对于自适应MCMC，在转移核路径稳定性条件下证明了几乎必然收敛性和大数定律，将收敛理论扩展至自适应设置。
• 本文证明了MCMC序列中条件期望的$L^2$-范数可通过结合漂移、再生和耦合论证进行有界控制，从而实现估计误差的统一控制。