[论文解读] Relative fixed-width stopping rules for Markov chain Monte Carlo simulations

James M. Flegal, Lei Gong|arXiv (Cornell University)|Mar 1, 2013

Markov Chains and Monte Carlo Methods参考文献 32被引用 12

一句话总结

本文提出了一种用于马尔可夫链蒙特卡洛（MCMC）模拟的相对固定宽度停止规则，即当置信区间的宽度相对于目标参数的大小或标准差足够小时，模拟即终止。作者建立了确保几乎必然终止和正确覆盖概率的渐近有效性条件，其中相对标准差规则在缺乏参数大小先验知识的多变量估计中表现尤为出色。

ABSTRACT

Markov chain Monte Carlo (MCMC) simulations are commonly employed for estimating features of a target distribution, particularly for Bayesian inference. A fundamental challenge is determining when these simulations should stop. We consider a sequential stopping rule that terminates the simulation when the width of a confidence interval is sufficiently small relative to the size of the target parameter. Specifically, we propose relative magnitude and relative standard deviation stopping rules in the context of MCMC. In each setting, we develop sufficient conditions for asymptotic validity, that is conditions to ensure the simulation will terminate with probability one and the resulting confidence intervals will have the proper coverage probability. Our results are applicable in a wide variety of MCMC estimation settings, such as expectation, quantile, or simultaneous multivariate estimation. Finally, we investigate the finite sample properties through a variety of examples and provide some recommendations to practitioners.

研究动机与目标

• 为解决MCMC模拟中确定最优停止时间的挑战，此类方法通常基于启发式或收敛性诊断方法，但无法保证估计精度。
• 开发确保置信区间具有正确覆盖概率且以概率1终止的停止规则。
• 通过基于参数大小或标准差的相对度量，消除对用户指定的绝对精度阈值的需求。
• 将理论有效性扩展至相对标准差停止规则，该规则在多变量设置中更具实用性。
• 为在实际MCMC应用中实施这些规则提供实用建议。

提出的方法

• 提出三种停止规则：绝对精度、相对大小和相对标准差，其中后者为主要关注对象。
• 使用批均值估计器一致估计渐近方差 $ \hat{\sigma}_n^2 $，从而构建置信区间。
• 将相对标准差停止规则定义为 $ T_3(\epsilon) = \inf\{n \geq 0 : w_\delta < \epsilon \hat{\lambda}_n \} $，其中 $ w_\delta $ 为置信区间宽度，$ \hat{\lambda}_n $ 为后验标准差的估计值。
• 基于泛函中心极限定理应用随机时间变换论证，证明停止规则的渐近有效性。
• 建立充分条件，确保模拟以概率1几乎必然终止，且所得置信区间保持正确的覆盖概率。
• 采用顺序估计框架，其中总迭代次数为由停止规则决定的随机变量。

实验结果

研究问题

• RQ1 MCMC的相对标准差停止规则在何种条件下可确保模拟的几乎必然终止？
• RQ2 相对固定宽度停止规则是否能保持所得置信区间的正确频率覆盖概率？
• RQ3 在多变量设置中，相对标准差规则与绝对精度和相对大小规则相比，在稳健性和适用性方面有何差异？
• RQ4 相对标准差停止规则在有限样本下的性质如何，其在各类MCMC估计问题中的表现如何？
• RQ5 停止规则的性能对 $ \epsilon $ 的选择有多敏感，何种 $ \epsilon $ 值可确保可靠的精度？

主要发现

• 相对标准差停止规则具有渐近有效性：当 $ \epsilon \to 0 $ 时，模拟以概率1终止，且所得置信区间具有正确的覆盖概率。
• 停止时间 $ T_3(\epsilon) $ 满足几乎必然有 $ \epsilon \sqrt{T_3(\epsilon)} \to 2z\sigma_\theta / \lambda_\theta $，当 $ \epsilon \to 0 $ 时，该关系将停止阈值与潜在抽样变异性联系起来。
• 该规则在多变量估计中特别有效，因其无需事先知道参数大小。
• 模拟研究显示，$ \epsilon = 0.02 $ 在包括多变量正态混合模型和贝叶斯回归在内的多种模型中均表现出色。
• 当结合一致的方差估计时，该方法对混合不良具有鲁棒性，但采样器的选择仍会影响覆盖概率和计算工作量。
• 使用批均值进行方差估计已足够，但采用重叠批均值或子采样自举等改进方法可进一步提升性能。