[论文解读] Auxiliary Variable Markov Chain Monte Carlo for Spatial Survival and Geostatistical Models

Benjamín M. Taylor|arXiv (Cornell University)|Jan 7, 2015

Spatial and Panel Data Analysis参考文献 62被引用 5

一句话总结

该论文提出了一种辅助变量马尔可夫链蒙特卡洛（MCMC）方法，通过在规则网格上使用辅助变量替代个体水平的空间脆弱性，将空间生存模型和地统计模型的计算成本从 O(n³) 降低至 O(n)。该方法实现了高效的贝叶斯推断与空间预测，且随着网格分辨率的提高，计算成本为 O(m log m)，显著提升了大规模数据集的可扩展性。

ABSTRACT

This article was motivated by the desire to improve Markov chain Monte Carlo methods for spatial survival models in which the locations of individuals in space are known. For a dataset comprising information on n individuals, standard methods of MCMC-based inference involve computing the inverse of an n by n matrix at each iteration. However with a judicious choice of auxiliary variables on a regular grid with m prediction points it will be shown how to fit an essentially equivalent model but with a substantially reduced computational cost. For a fixed output grid, the computational cost of the new method is reduced from O(n^3) to O(n); the cost of increasing the output grid size being O(m\log m). Furthermore, the new method simultaneously solves the problem of spatial prediction of functions of the latent field, which for standard methods usually presents a further computational challenge. We apply the new method to a spatial survival dataset previously analysed in Henderson et. al 2002 and show how the new method can be applied to spatial and spatiotemporal geostatistical datasets with the same computational benefits.

研究动机与目标

• 解决空间生存模型中 MCMC 推断的高计算成本问题，该问题由于需要重复求逆 n×n 协方差矩阵而呈现 O(n³) 的复杂度。
• 开发一种方法，在保持与标准模型统计等价性的同时，显著降低大规模数据集的计算负担。
• 同时解决潜在场空间预测问题，该问题在标准方法中通常是单独且昂贵的步骤。
• 将该方法扩展至具有类似计算优势的时空地统计模型。
• 通过最小化对标准 MCMC 框架的修改，实现空间生存和地统计模型的实际贝叶斯推断。

提出的方法

• 在大小为 m 的规则网格上引入辅助变量 Y，以表示空间相关的脆弱性，替代个体水平的脆弱性。
• 在网格上使用平稳高斯过程对潜在场进行建模，从而可利用快速傅里叶变换（FFT）进行矩阵运算。
• 采用分层结构，使个体脆弱性与最近的网格点相关联，通过基于网格的表示实现高效计算。
• 通过基于 FFT 的方法，将完整的 n×n 协方差矩阵求逆替换为 O(m log m) 的运算，从而降低计算复杂度。
• 通过确保辅助变量诱导出等价的空间依赖性，保持与原始模型相同的似然和后验分布。
• 通过利用基于网格的潜在场，自然地实现对未观测位置的潜在场空间预测，避免了单独的预测步骤。

实验结果

研究问题

• RQ1 我们能否在不牺牲统计精度的前提下，将空间生存模型中 MCMC 的 O(n³) 计算成本降低？
• RQ2 在规则网格上的辅助变量能否在实现更快计算的同时，保持原始模型的后验分布？
• RQ3 该方法能否同时解决潜在场的空间预测问题，而该问题在传统方法中通常是单独且昂贵的步骤？
• RQ4 该方法在数据集规模和空间分辨率增加时是否能实现高效的可扩展性？
• RQ5 该方法能否扩展至时空地统计模型，并获得类似的计算优势？

主要发现

• 所提出的方法将空间生存模型中 MCMC 推断的计算成本从 O(n³) 降低至 O(n)（固定输出网格大小），从而能够分析规模大得多的数据集。
• 随着空间网格分辨率的提高，计算成本呈 O(m log m) 增长，使得高分辨率空间建模成为可能。
• 对未观测位置潜在场的空间预测自然地整合进 MCMC 框架中，消除了单独的计算步骤。
• 该方法适用于空间生存模型和地统计模型，包括具有空间相关随机效应的泊松和高斯过程。
• 该方法可扩展至时空模型，每次迭代的计算成本为 O(n)，空间分辨率提高的计算成本为 O(m log m)，时间分辨率的计算成本为 O(T)。
• 在 8 核机器上，MCMC 提议的多核并行化使接受率提高至 99.9%，计算时间减少约 40%。