[论文解读] Variable-at-a-time Implementations of Metropolis-Hastings

Ronald C. Neath, Galin L. Jones|arXiv (Cornell University)|Mar 4, 2009

Markov Chains and Monte Carlo Methods参考文献 23被引用 5

一句话总结

本文建立了基于状态无关提议的逐变量Metropolis-Hastings算法的几何遍历性与一致收敛性，为MCMC标准误估计提供了实用的再生模拟方法。主要贡献在于为分量式MCMC的收敛速率与误差估计提供了理论基础，并在贝叶斯推断与混合效应模型设置中得到验证。

ABSTRACT

It is common practice in Markov chain Monte Carlo to update a high-dimensional chain one variable (or sub-block of variables) at a time, rather than conduct a single block update. While this modification can make the choice of proposal easier, the theoretical convergence properties of the associated Markov chain have received limited attention. We present conditions under which the chain converges uniformly to its stationary distribution at a geometric rate. Also, we develop a recipe for performing regenerative simulation in this setting and demonstrate its application for estimating Markov chain Monte Carlo standard errors. In both our investigation of convergence rates and in Monte Carlo standard error estimation we pay particular attention to the case with state-independent component-wise proposals. We illustrate our results in two examples, a toy Bayesian inference problem and a practically relevant example involving maximum likelihood estimation for a generalized linear mixed model. 1 1

研究动机与目标

• 建立变量逐次更新的Metropolis-Hastings链几何收敛到其平稳分布的理论条件。
• 为分量式MCMC开发一种实用的再生模拟方法，以实现MCMC标准误的精确估计。
• 具体分析在状态无关分量式提议下，收敛性质与误差估计性能。
• 在简单贝叶斯模型与真实世界广义线性混合模型中，展示该方法的有效性。

提出的方法

• 利用漂移与极小化条件，推导出分量式Metropolis-Hastings链几何遍历性的充分条件。
• 提出基于再生时间的再生模拟框架，以实现MCMC标准误的一致估计。
• 将该方法应用于状态无关提议的链，简化实现与分析过程。
• 利用漂移函数与极小化条件，验证在整个状态空间上的一致几何遍历性。
• 采用基于再生的方差估计方法，计算可靠的MCMC标准误，无需依赖批均值法或渐近近似。
• 通过简单贝叶斯模型与含随机效应的广义线性混合模型的模拟，验证该方法。

实验结果

研究问题

• RQ1 在何种条件下，变量逐次更新的Metropolis-Hastings算法会几何收敛到其平稳分布？
• RQ2 如何有效应用再生模拟来估计使用状态无关提议的分量式MCMC中的MCMC标准误？
• RQ3 在分量式MCMC中使用状态无关提议，对收敛性与误差估计的理论与实际影响是什么？
• RQ4 在高维、实际的推断问题（如GLMMs）中，收敛速率与标准误估计的表现如何？

主要发现

• 本文在较弱的正则性条件下，建立了变量逐次更新的Metropolis-Hastings链的几何遍历性，确保其对平稳分布的一致收敛。
• 再生模拟在简单贝叶斯模型与广义线性混合模型中，均能提供一致且可靠的MCMC标准误估计。
• 使用状态无关提议简化了理论分析，并实现了具有保证收敛性质的实用化实现。
• 实证结果表明，所提方法在具有复杂依赖结构的高维设置下，仍能产生准确的标准误估计。