[论文解读] Convergence diagnostics for MCMC draws of a categorical variable

Benjamin Deonovic, Brian J. Smith|arXiv (Cornell University)|Jun 15, 2017

Machine Learning and Algorithms参考文献 12被引用 7

一句话总结

本文提出两种针对马尔可夫链蒙特卡洛（MCMC）抽样中分类变量的收敛性诊断方法，基于适用于依赖数据的卡方检验统计量。该方法通过模拟验证，并应用于可逆跳跃MCMC有限混合模型，展示了在传统诊断因依赖性和离散性而失效的情况下，对离散参数实现有效收敛评估的能力。

ABSTRACT

Markov Chain Monte Carlo (MCMC) is a popular class of statistical methods for simulating autocorrelated draws from target distributions, including posterior distributions in Bayesian analysis. An important consideration in using simulated MCMC draws for inference is that the sampling algorithm has converged to the distribution of interest. Since the distribution is typically of a non-standard form, convergence cannot generally be proven and, instead, is assessed with convergence diagnostics. Although parameters used in the MCMC framework are typically continuous, there are many situations in which simulating a categorical variable is desired. Examples include indicators for model inclusion in Bayesian variable selection and latent categorical component variables in mixture modeling. Traditional convergence diagnostics are designed for continuous variables and may be inappropriate for categorical variables. In this paper two convergence diagnostic methods are considered which are appropriate for MCMC data. The diagnostics discussed in the paper utilize chi-squared test statistics for dependent data. Performance of the convergence diagnostics is evaluated under various simulations. Finally, the diagnostics are applied to a real data set where reversible jump MCMC is used to sample from a finite mixture model.

研究动机与目标

• 为解决贝叶斯变量选择和有限混合模型中常见的MCMC分类变量缺乏有效收敛性诊断的问题。
• 开发能考虑MCMC输出依赖结构的诊断方法，因为这种依赖性会破坏基于独立性的标准检验（如皮尔逊卡方检验）的有效性。
• 为离散参数提供直接的收敛性评估，避免依赖连续参数函数的方差分析（ANOVA）类诊断方法。
• 通过模拟研究评估在不同自相关性和模型相似性条件下的性能表现。
• 在真实可逆跳跃MCMC有限混合模型上展示诊断方法的适用性。

提出的方法

• 采用分块方法，将卡方检验统计量适配于依赖数据，以处理MCMC链中的自相关性。
• 使用自助法（bootstrap）程序，在收敛假设下估计检验统计量的零抽样分布。
• 在收敛零假设下，基于计数的多元正态极限，推导检验统计量的渐近近似。
• 利用奇异值分解（SVD）对设计矩阵进行分解，推导跨链多项分布计数的协方差结构。
• 基于零假设下期望计数的标准化偏差的二次型构造检验统计量。
• 将诊断方法应用于模拟数据和真实可逆跳跃MCMC有限混合模型，以评估离散成分指标的收敛性。

实验结果

研究问题

• RQ1 能否将基于卡方检验的诊断方法适配于处理MCMC抽样中分类变量的依赖性？
• RQ2 在不同自相关性和模型相似性水平下，所提出的诊断方法表现如何？
• RQ3 自助法与渐近法版本的诊断结果是否具有可比性？
• RQ4 诊断方法能否有效检测可逆跳跃MCMC有限混合模型中的非收敛性？
• RQ5 当应用于离散参数时，诊断方法与传统基于ANOVA的方法相比表现如何？

主要发现

• 基于自助法的诊断在各种自相关水平和分段长度下均保持适当的Ⅰ类错误率，表明其具有鲁棒性。
• 当链数和类别数适中时，渐近诊断方法表现良好，Ⅰ类错误率接近名义水平。
• 当链的两段来自不同模型（即相似性较低）时，两种诊断方法均表现出高功效以检测非收敛性。
• 当链来自同一模型时，即使存在高自相关性，诊断方法也能正确不拒绝收敛的原假设。
• 自助法诊断计算量较大，但在小样本中更可靠；渐近法诊断速度更快，但依赖大样本近似。
• 在真实有限混合模型数据应用中，诊断方法在足够长的烧入期后指示收敛，支持对成分数量的可靠推断。