[论文解读] Component-wise Markov chain Monte Carlo

Alicia A. Johnson, Galin L. Jones+1 more|arXiv (Cornell University)|Mar 4, 2009

Markov Chains and Monte Carlo Methods被引用 12

一句话总结

本文为分量式马尔可夫链蒙特卡洛（MCMC）算法（包括吉布斯采样器和吉布斯内Metropolis-Hastings算法）在组合、随机序列和随机扫描策略下建立了几何遍历性条件。结果表明，这些策略能以几何速度收敛到平稳分布，从而实现类似于独立同分布（i.i.d.）抽样的可靠推断。

ABSTRACT

It is common practice in Markov chain Monte Carlo to update the simulation one variable (or sub-block of variables) at a time, rather than conduct a single full-dimensional update. When it is possible to draw from each full-conditional distribution associated with the target this is just a Gibbs sampler. Often at least one of the Gibbs updates is replaced with a Metropolis-Hastings step, yielding a Metropolis-Hastings-within-Gibbs algorithm. Strategies for combining component-wise updates include composition, random sequence and random scans. While these strategies can ease MCMC implementation and produce superior empirical performance compared to full-dimensional updates, the theoretical convergence properties of the associated Markov chains have received limited attention. We present conditions under which some component-wise Markov chains converge to the stationary distribution at a geometric rate. We pay particular attention to the connections between the convergence rates of the various component-wise strategies. This is important since it ensures the existence of tools that an MCMC practitioner can use to be as confident in the simulation results as if they were based on independent and identically distributed samples. We illustrate our results in two examples including a hierarchical linear mixed model and one involving maximum likelihood estimation for mixed models.

研究动机与目标

• 为实践中广泛使用的分量式MCMC策略缺乏理论收敛性分析提供解决。
• 建立分量式MCMC链几何收敛到目标分布的充分条件。
• 在统一的理论条件下，比较不同分量式策略（组合、随机序列、随机扫描）的收敛速度。
• 为实践者提供理论基础可靠的工具，用于评估MCMC输出的可靠性，类似于用于i.i.d.样本的工具。
• 通过分层线性混合模型和混合模型的最大似然估计应用，验证理论发现。

提出的方法

• 分析分量式MCMC算法，其中变量或子块通过全条件分布顺序更新。
• 将几何遍历性理论应用于吉布斯采样器和吉布斯内Metropolis-Hastings算法生成的马尔可夫链。
• 推导出分量式采样器的转移核满足几何漂移和小集条件的条件。
• 比较三种扫描策略（确定性组合、随机序列、随机扫描）的收敛速度。
• 使用Foster-Lyapunov漂移条件和小化准则，为每种策略建立几何遍历性。
• 将结果应用于两个实际示例：分层线性混合模型和具有最大似然估计的混合模型。

实验结果

研究问题

• RQ1 在何种条件下，分量式MCMC算法（如吉布斯采样器和吉布斯内Metropolis-Hastings算法）能几何收敛到平稳分布？
• RQ2 在几何遍历性方面，组合、随机序列和随机扫描策略的收敛速度如何比较？
• RQ3 能否将此前仅适用于i.i.d.抽样的MCMC可靠性评估理论工具，扩展到分量式MCMC方法？
• RQ4 当全条件更新被替换为Metropolis-Hastings步骤时，MCMC采样器可提供哪些理论保证？
• RQ5 分量式MCMC策略的收敛特性在实际的分层模型和混合模型中如何体现？

主要发现

• 在较弱的正则性条件下，分量式MCMC算法（包括吉布斯内Metropolis-Hastings算法）能几何收敛到平稳分布。
• 当满足基本条件时，组合、随机序列和随机扫描策略的收敛速度在几何遍历性方面相近。
• 几何遍历性确保MCMC输出可与i.i.d.样本一样被可靠地使用，从而支持可靠的推断。
• 诸如漂移和小化条件等理论工具可应用于分量式采样器，以验证其几何收敛性。
• 研究结果在分层线性混合模型和混合模型的最大似然估计设置中得到了实证验证。
• 本文证明，尽管分量式更新在实践中广受欢迎，但其理论基础坚实，具有强收敛保证。