[論文レビュー] Bayesian nonstationary Gaussian process modeling: the BayesNSGP package for R

Mark D. Risser, Daniel Turek|arXiv (Cornell University)|Oct 30, 2019

Gaussian Processes and Bayesian Inference被引用数 3

ひとこと要約

この論文では、R用のBayesNSGPパッケージを紹介する。このパッケージは、現代の尤度近似法とMCMCサンプリングを用いて、数 hundred から数 thousand の場所を含む小規模から中規模の空間データセットにおいて、非ステーションナリィなガウス過程の完全ベイズ推論を可能にする。この手法は不確実性を定量化的に評価した予測を可能とし、数百から数千の場所を含む実世界の空間データにおいて、既存のオフザシェル代替手法を上回る性能を発揮する。

ABSTRACT

In spite of the diverse literature on nonstationary spatial modeling and approximate Gaussian process (GP) methods, there are no general approaches for conducting fully Bayesian inference for moderately sized nonstationary spatial data sets on a personal laptop. For statisticians and data scientists who wish to learn about spatially-referenced data and conduct posterior inference and prediction with appropriate uncertainty quantification, the lack of such approaches and corresponding software is a significant limitation. In this paper, we develop methodology for implementing formal Bayesian inference for a general class of nonstationary GPs. Our novel approach uses pre-existing frameworks for characterizing nonstationarity in a new way that is applicable for small to moderately sized data sets via modern GP likelihood approximations. Posterior sampling is implemented using flexible MCMC methods, with nonstationary posterior prediction conducted as a post-processing step. We demonstrate our novel methods on two data sets, ranging from several hundred to several thousand locations, and compare our methodology with related statistical methods that provide off-the-shelf software. All of our methods are implemented in the freely available BayesNSGP software package for R.

研究の動機と目的

• 個人用ノートパソコンで利用可能な一般用途の完全ベイズ推論ツールが、非ステーションナリィ空間ガウス過程に対して不足している問題を解決する。
• 統計学者やデータサイエンティストが、空間的に関連付けられたデータに対して、適切な不確実性の定量的評価を伴う後方分布推論と予測を実行できるようにする。
• 現代の近似技術を用いた非ステーションナリィGPモデリングをサポートする、柔軟でアクセスしやすいソフトウェア実装を開発する。
• 高度な非ステーションナリィ空間モデリングと、中規模データセットにおける実用的使いやすさのギャップを埋める。
• 既存のオフザシェル手法と同等またはそれ以上の性能を発揮し、不確実性の定量的評価に優れたスケーラブルで信頼性の高い代替手法を提供する。

提案手法

• 非ステーションナリィをモデル化する既存のフレームワークを用いるが、形式的なベイズ階層構造に再定式化する。
• 数 hundred から数 thousand の場所を含むデータセットにおける効率的計算を可能にするために、現代のガウス過程尤度近似法を適用する。
• 非ステーションナリィGPモデルに特化した柔軟なマルコフ連鎖モンテカルロ（MCMC）手法を用いて、後方分布のサンプリングを実装する。
• MCMCサンプリングの後処理として非ステーションナリィ後方予測を実施し、不確実性の定量的評価を保持する。
• 研究者や実務家が利用しやすく、再現性を確保できるように、Rベースの実装を活用する。
• すべてのコンponentsをオープンソースのRパッケージBayesNSGPに統合し、エンドツーエンドのベイズ空間分析を可能にする。

実験結果

リサーチクエスチョン

• RQ1 標準的な個人用コンピュータハードウェアを用いて、中規模の空間データセットにおいて非ステーションナリィガウス過程の完全ベイズ推論を効率的に行うことは可能か？
• RQ2 提案手法は、既存のオフザシェル統計手法と比較して、予測精度と不確実性の定量的評価においてどの程度優れているか？
• RQ3 尤度近似法とMCMCの新規な組み合わせが、非ステーションナリィGPモデルにおけるスケーラブルな推論をどの程度可能にするか？
• RQ4 BayesNSGPフレームワークは、多様な空間データ構造にわたり、信頼性のある不確実性を定量化的に評価した予測をサポートできるか？
• RQ5 提案手法は、実世界の空間データ応用において、実用的で計算的に実行可能か？

主な発見

• BayesNSGPパッケージは、数 hundred から数 thousand の空間的場所を含むデータセットにおいて、非ステーションナリィガウス過程の完全ベイズ推論を可能にする。
• MCMCベースの後方分布サンプリングと後処理予測ステップにより、正確な不確実性を定量化的に評価した予測が実現される。
• 既存のオフザシェル手法と同等またはそれ以上の予測性能を発揮するとともに、形式的な不確実性の定量的評価を提供する。
• 現代の尤度近似法により、モデルの柔軟性や推論の厳密性を損なわず、効率的な計算が可能になる。
• ソフトウェアはRパッケージとして自由に利用可能であり、研究者やデータサイエンティストによるアクセス性と再現性が向上する。
• フレームワークは、標準的な個人用ノートパソコン上で実世界の空間データ分析に実用的であることが示された。