[论文解读] Bayesian inference for general Gaussian graphical models with application to multivariate lattice data

Adrian Dobra, Alex Lenkoski+1 more|arXiv (Cornell University)|May 21, 2010

Bayesian Methods and Mixture Models参考文献 26被引用 4

一句话总结

本文提出了一种新颖的可逆跳跃MCMC采样器，用于在具有G-威沙特先验的多元和矩阵变量子高斯图形模型（GGMs）中进行贝叶斯推断，实现了在可分解与不可分解图上的高效估计与模型判定。该方法避免了计算量巨大的边缘似然计算，并支持多元网格数据的灵活稀疏条件自回归（CAR）模型，应用于空间数据与癌症死亡率制图。

ABSTRACT

We introduce efficient Markov chain Monte Carlo methods for inference and model determination in multivariate and matrix-variate Gaussian graphical models. Our framework is based on the G-Wishart prior for the precision matrix associated with graphs that can be decomposable or non-decomposable. We extend our sampling algorithms to a novel class of conditionally autoregressive models for sparse estimation in multivariate lattice data, with a special emphasis on the analysis of spatial data. These models embed a great deal of flexibility in estimating both the correlation structure across outcomes and the spatial correlation structure, thereby allowing for adaptive smoothing and spatial autocorrelation parameters. Our methods are illustrated using simulated and real-world examples, including an application to cancer mortality surveillance.

研究动机与目标

• 开发一种可扩展的贝叶斯推断框架，适用于一般高斯图形模型（GGMs），支持可分解与不可分解图。
• 通过一种新颖的可逆跳跃MCMC算法，消除模型判定中对计算成本高昂的边缘似然计算的需求。
• 扩展条件自回归（CAR）模型与GGMs之间的联系，用于多元网格数据，实现自适应平滑与空间相关性估计。
• 为矩阵变量子GGMs提供统一且高效的采样策略，联合建模行与列的条件独立结构。
• 通过空间统计应用（包括州级SAT分数与癌症死亡率监测）展示该方法的实用性。

提出的方法

• 提出一种新的梅特罗波利斯-黑斯廷斯算法，基于Cholesky分解在任意图上对G-威沙特分布进行采样，避免了团枚举。
• 开发一种可逆跳跃MCMC采样器，联合更新行与列的精度矩阵、条件独立图以及辅助变量，以解决矩阵变正常态模型中的非可识别性问题。
• 采用分块吉布斯采样方案，按顺序更新均值向量μ、中心化随机效应X̃、行精度矩阵KR、列图GC、列精度矩阵KC以及辅助变量z。
• 基于矩阵变正常态分布和G-威沙特约束的条件先验，编码行与列结构中的条件独立性。
• 在全条件分布非标准时，使用正态提议的梅特罗波利斯-黑斯廷斯步骤来更新中心化随机效应矩阵X̃的单个元素。
• 将G-威沙特先验整合到层次模型框架中，通过广义线性模型支持连续与离散的多元网格数据。

实验结果

研究问题

• RQ1 如何在不计算边缘似然的情况下，高效地执行一般GGMs的贝叶斯模型判定？
• RQ2 能否设计一种单一MCMC算法，利用G-威沙特先验处理GGMs中可分解与不可分解图？
• RQ3 在具有不可分解邻域结构的多元网格数据中，如何充分挖掘CAR模型与GGMs之间的联系？
• RQ4 所提出的采样器在真实世界多元空间数据中估计空间相关性与跨结果相关结构方面的表现如何？
• RQ5 该方法能否在如癌症死亡率制图等应用中提供自适应平滑与灵活的空间相关性估计？

主要发现

• 所提出的MCMC采样器避免了计算G-威沙特后验的归一化常数，显著提升了相对于现有方法的计算效率。
• 通过基于Cholesky的采样方法，成功在不可分解图上实现准确推断，避免了团枚举的需要。
• 该采样器支持构建稀疏的多元CAR模型，联合估计空间相关性与跨变量依赖结构。
• 在癌症死亡率应用中，模型成功识别出各州间有意义的空间模式与条件独立结构。
• 模拟研究证实，该方法在各种稀疏性与相关性条件下，均能稳健地恢复真实的图结构与精度矩阵。
• 该算法在高维设置下表现出良好的混合性与收敛性，计算速度与可扩展性优于先前方法。