[论文解读] Nonstationary, Nonparametric, Nonseparable Bayesian Spatio-Temporal Modeling Using Kernel Convolution of Order Based Dependent Dirichlet Process

Moumita Das, Sourabh Bhattacharya|arXiv (Cornell University)|May 20, 2014

Bayesian Methods and Mixture Models参考文献 38被引用 5

一句话总结

本文提出了一种非平稳、非参数化且非可分的贝叶斯时空模型，通过基于顺序的依赖狄利克雷过程的核卷积来捕捉复杂的时空依赖关系。该方法通过横维变换马尔可夫链蒙特卡洛（MCMC）处理可变维度问题，并在模拟数据和真实数据集上展现出优于Fuentes与Reich（2013）的性能，同时对级数截断提供了严格的误差界。

ABSTRACT

In this article, using kernel convolution of order based dependent Dirichlet process (Griffin and Steel (2006)) we construct a nonstationary, nonseparable, nonparametric space-time process, which, as we show, satisfies desirable properties, and includes the stationary, separable, parametric processes as special cases. We also investigate the smoothness properties of our proposed model. Since our model entails an infinite random series, for Bayesian model fitting purpose we must either truncate the series or more appropriately consider a random number of summands, which renders the model dimension a random variable. We attack the variable dimensionality problem using Transdimensional Transformation based Markov Chain Monte Carlo introduced by Das and Bhattacharya (2019b), which can update all the variables and also change dimensions in a single block using essentially a single random variable drawn from some arbitrary density defined on a relevant support. For the sake of completeness we also address the problem of truncating the infinite series by providing a uniform bound on the error incurred by truncating the infinite series. We illustrate the effectiveness of our model and methodologies on a simulated data set and demonstrate that our approach significantly outperforms that of Fuentes and Reich (2013) which is based on principles somewhat similar to ours. We also fit two real, spatial and spatio-temporal datasets with our approach and obtain quite encouraging results in both the cases.

研究动机与目标

• 开发一种灵活的贝叶斯时空模型，以捕捉空间与时间中非平稳、非可分且非参数化的依赖结构。
• 解决非参数贝叶斯模型中无限随机级数展开所导致的可变维度问题。
• 为截断无限级数提供理论基础方法，确保一致的误差界。
• 通过增强对复杂时空依赖建模的灵活性，改进如Fuentes与Reich（2013）等现有方法。
• 在模拟数据和真实世界的空间及时空数据集上，证明该模型的有效性。

提出的方法

• 使用基于顺序的依赖狄利克雷过程的核卷积，构建非平稳、非可分、非参数化的时空过程。
• 采用随机级数表示法，其中成分数量本身为一个随机变量，从而实现横维推断。
• 应用基于横维变换的马尔可夫链蒙特卡洛（TDT-MCMC）方法，一次性联合更新参数与改变维度。
• 推导出对无限级数截断所引入误差的统一界，确保理论上的可靠性。
• 利用从任意密度中抽取的单一随机变量，以促进MCMC算法中维度变化的移动。
• 通过依赖狄利克雷过程实现非参数贝叶斯的非可分性，从而在空间与时间上实现灵活的依赖关系建模。

实验结果

研究问题

• RQ1 能否构建一种非平稳、非参数化且非可分的贝叶斯时空模型，使其能推广平稳和可分的参数化模型？
• RQ2 在后验计算中，如何有效处理由无限随机级数引发的可变维度问题？
• RQ3 能否将横维MCMC方法适配于探索具有随机维度的时空过程中的模型？
• RQ4 此类模型中，对无限级数展开进行截断的理论误差界是什么？
• RQ5 所提出的模型在捕捉复杂时空依赖关系方面，是否优于如Fuentes与Reich（2013）等现有方法？

主要发现

• 所提出的模型成功捕捉了非平稳和非可分的时空依赖关系，且可将平稳、可分、参数化模型作为特例包含在内。
• 横维变换MCMC方法实现了参数与维度的高效联合更新，单次块更新显著提升了混合效率与收敛性。
• 推导出级数截断的统一误差界，为有限截断的实际应用提供了理论保障。
• 在模拟数据上，该模型在预测准确性和灵活性方面显著优于Fuentes与Reich（2013）。
• 在两个真实数据集上（一个空间数据集，一个时空数据集）均取得令人鼓舞的结果，展现出强大的实证性能。
• 该方法在不假设平稳性或可分性的前提下，有效处理了复杂的依赖结构，为参数化模型提供了一种稳健的替代方案。