[论文解读] Bayesian nonstationary Gaussian process modeling: the BayesNSGP package for R

Mark D. Risser, Daniel Turek|arXiv (Cornell University)|Oct 30, 2019

Gaussian Processes and Bayesian Inference被引用 3

一句话总结

本文介绍了 R 语言中的 BayesNSGP 包，该包利用现代似然近似方法和 MCMC 采样，实现了在小型到中型空间数据集上对非平稳高斯过程的完整贝叶斯推断。该方法支持不确定性量化预测，并在包含数百至数千个位置的真实空间数据上优于现成的替代方法。

ABSTRACT

In spite of the diverse literature on nonstationary spatial modeling and approximate Gaussian process (GP) methods, there are no general approaches for conducting fully Bayesian inference for moderately sized nonstationary spatial data sets on a personal laptop. For statisticians and data scientists who wish to learn about spatially-referenced data and conduct posterior inference and prediction with appropriate uncertainty quantification, the lack of such approaches and corresponding software is a significant limitation. In this paper, we develop methodology for implementing formal Bayesian inference for a general class of nonstationary GPs. Our novel approach uses pre-existing frameworks for characterizing nonstationarity in a new way that is applicable for small to moderately sized data sets via modern GP likelihood approximations. Posterior sampling is implemented using flexible MCMC methods, with nonstationary posterior prediction conducted as a post-processing step. We demonstrate our novel methods on two data sets, ranging from several hundred to several thousand locations, and compare our methodology with related statistical methods that provide off-the-shelf software. All of our methods are implemented in the freely available BayesNSGP software package for R.

研究动机与目标

• 解决在个人电脑上缺乏通用的、完全贝叶斯推断工具用于非平稳空间高斯过程的问题。
• 使统计学家和数据科学家能够对空间参考数据进行后验推断和预测，并实现适当的不确定性量化。
• 开发一种灵活且易于使用的软件实现，支持使用现代近似技术的非平稳 GP 建模。
• 弥合先进非平稳空间建模与中等规模数据集实际可用性之间的差距。
• 提供一种可扩展且可靠的替代方案，相较于现有现成方法在不确定性量化方面表现相当或更优。

提出的方法

• 利用现有框架来建模非平稳性，但将其重新置于正式的贝叶斯分层结构中。
• 应用现代高斯过程似然近似方法，以在包含数百到数千个位置的数据集上实现高效计算。
• 使用针对非平稳 GP 模型量身定制的灵活马尔可夫链蒙特卡洛（MCMC）方法进行后验抽样。
• 在 MCMC 抽样后作为后处理步骤执行非平稳后验预测，以保持不确定性量化的完整性。
• 利用基于 R 的实现，确保研究人员和实践者能够实现可重现性和可访问性。
• 将所有组件集成到开源的 R 语言包 BayesNSGP 中，支持端到端的贝叶斯空间分析。

实验结果

研究问题

• RQ1 是否能够使用标准个人计算硬件，在中等规模的空间数据集上高效地执行非平稳高斯过程的完全贝叶斯推断？
• RQ2 与现有的现成统计方法相比，所提出的方法在预测准确性和不确定性量化方面表现如何？
• RQ3 新颖的似然近似方法与 MCMC 的结合在多大程度上实现了非平稳 GP 模型的可扩展推断？
• RQ4 BayesNSGP 框架是否能够在多样化空间数据结构上支持可靠的不确定性量化预测？
• RQ5 该方法在真实世界空间数据分析应用中的实际可用性和计算可行性如何？

主要发现

• BayesNSGP 包能够在包含数百到数千个空间位置的数据集上实现非平稳高斯过程的完全贝叶斯推断。
• 该方法通过基于 MCMC 的后验抽样和后处理预测步骤，实现了准确的不确定性量化预测。
• 该方法在预测性能上优于或至少匹配现有现成方法，同时提供正式的不确定性量化。
• 现代似然近似方法在不牺牲模型灵活性或推断严谨性的情况下，实现了高效计算。
• 该软件作为 R 包免费提供，增强了研究人员和数据科学家的可访问性和可重现性。
• 该框架在标准个人笔记本电脑上展示了在真实世界空间数据分析中的实际可行性。