[论文解读] Spatial meshing for general Bayesian multivariate models

Michele Peruzzi, David B. Dunson|PubMed|Jan 25, 2022

Statistical Methods and Bayesian Inference被引用 5

一句话总结

该论文提出了一种可扩展的贝叶斯框架，用于处理具有非高斯结果的多变量空间模型，采用空间网格化和一种新颖的MCMC算法SiMPA，通过利用二阶几何信息提升采样效率，避免了昂贵的矩阵运算。该方法可在包含数万个至数十万个位置及多种结果类型的大规模地理空间数据集上实现快速、精确的推断，其混合与收敛性能优于标准MCMC方法。

ABSTRACT

Quantifying spatial and/or temporal associations in multivariate geolocated data of different types is achievable via spatial random effects in a Bayesian hierarchical model, but severe computational bottlenecks arise when spatial dependence is encoded as a latent Gaussian process (GP) in the increasingly common large scale data settings on which we focus. The scenario worsens in non-Gaussian models because the reduced analytical tractability leads to additional hurdles to computational efficiency. In this article, we introduce Bayesian models of spatially referenced data in which the likelihood or the latent process (or both) are not Gaussian. First, we exploit the advantages of spatial processes built via directed acyclic graphs, in which case the spatial nodes enter the Bayesian hierarchy and lead to posterior sampling via routine Markov chain Monte Carlo (MCMC) methods. Second, motivated by the possible inefficiencies of popular gradient-based sampling approaches in the multivariate contexts on which we focus, we introduce the simplified manifold preconditioner adaptation (SiMPA) algorithm which uses second order information about the target but avoids expensive matrix operations. We demostrate the performance and efficiency improvements of our methods relative to alternatives in extensive synthetic and real world remote sensing and community ecology applications with large scale data at up to hundreds of thousands of spatial locations and up to tens of outcomes. Software for the proposed methods is part of R package meshed, available on CRAN.

研究动机与目标

• 解决在结果为非高斯且数据规模庞大时，贝叶斯多变量空间模型中的计算瓶颈问题。
• 开发一种可扩展的推断框架，在保持对多种数据类型（如计数、二值、连续型）建模灵活性的同时，确保计算效率。
• 通过一种新颖的预处理策略，克服梯度驱动MCMC方法在高维、非高斯设定下的低效问题。
• 通过有向无环图（DAGs）和空间网格化中的区域划分，实现在复杂空间模型中实用的后验计算。

提出的方法

• 使用有向无环图（DAGs）通过条件独立结构表示空间依赖性，实现稀疏精度矩阵并提升MCMC采样效率。
• 应用区域划分技术构建空间网格化的高斯过程（MGPs），在保持空间相关性结构的同时降低计算成本。
• 提出简化流形预处理自适应算法（SiMPA），利用局部二阶信息提升提议效率，而无需完整计算Hessian矩阵。
• 采用GriPS方法对协方差参数进行采样，提升潜在过程模型中的混合效果与不确定性量化能力。
• 结合潜在高斯过程与灵活的似然函数（泊松分布、负二项分布、伯努利分布、正态分布），用于建模多变量、非高斯响应。
• 使用稀疏矩阵运算与局部近似方法，使推断可扩展至最多250,000个空间位置和数十个结果变量的规模。

实验结果

研究问题

• RQ1 空间网格化与基于DAG的建模是否能够在高维、非高斯的多变量空间模型中实现高效的MCMC采样？
• RQ2 在多种结果类型下，SiMPA与MALA和NUTS相比，在每秒有效样本数（ESS/s）方面表现如何？
• RQ3 使用空间网格化与局部条件化是否能改善大规模地理空间数据中后验分布的混合与收敛性能？
• RQ4 GriPS方法在提升潜在过程参数采样效率与不确定性量化方面效果如何？
• RQ5 所提出的框架是否能够在保持计算可扩展性的前提下，有效处理包含混合数据类型（如计数、二值、连续型）的复杂真实世界数据？

主要发现

• 对于高斯结果，SiMPA的平均ESS/s为17.65，显著优于MALA（8.35）与NUTS（2.15）；对于负二项分布结果，SiMPA为9.03，远超MALA（1.31）与NUTS（0.32）。
• 对于伯努利结果，SiMPA实现4.26 ESS/s，优于MALA（1.15）、NUTS（0.25）与SM-MALA（1.81）。
• SiMPA在所有结果类型下均保持了95%可信区间的高经验覆盖度（0.944–0.948），所有类型RMSPE值均低于0.45。
• 该方法在多种数据类型下表现稳定，包括混合类型结果（如泊松与伯努利混合），RMSPE值为1.194–1.212，覆盖度高于0.94。
• 在包含2500个位置与750个数据集的合成数据中，SiMPA在ESS/s与不确定性量化方面均表现出一致改进，尤其在结合GriPS进行参数扩展时更为显著。
• 该框架可有效扩展至真实世界遥感与社区生态学数据，支持最多250,000个空间位置与最多10个结果变量，展现出实际应用价值。