[論文レビュー] Non-separable Dynamic Nearest-Neighbor Gaussian Process Models for Large spatio-temporal Data With an Application to Particulate Matter Analysis

Abhirup Datta, Sudipto Banerjee+3 more|arXiv (Cornell University)|Oct 24, 2015

Air Quality and Health Impacts参考文献 54被引用数 5

ひとこと要約

本稿では、非可分な共分散構造を有する大規模な空間時系列データセットに対してスケーラブルで、完全ベイズ推論を可能にする非分離的ダイナミックネIGHBORINGガウス過程（DNNGP）モデルを提案する。局所的近傍に基づく近似と、密行列演算を回避するギブスサンプラーを活用することで、DNNGPは観測数に線形に比例する記憶領域と計算量を実現し、予測精度において低ランク手法を著しく上回るとともに、任意の空間時系列解像度における完全事後分布推論を可能にする。

ABSTRACT

Particulate matter (PM) is a class of malicious environmental pollutants known to be detrimental to human health. Regulatory efforts aimed at curbing PM levels in different countries often require high resolution space-time maps that can identify red-flag regions exceeding statutory concentration limits. Continuous spatio-temporal Gaussian Process (GP) models can deliver maps depicting predicted PM levels and quantify predictive uncertainty. However, GP based approaches are usually thwarted by computational challenges posed by large datasets. We construct a novel class of scalable Dynamic Nearest Neighbor Gaussian Process (DNNGP) models that can provide a sparse approximation to any spatio-temporal GP (e.g., with non-separable covariance structures). The DNNGP we develop here can be used as a sparsity-inducing prior for spatio-temporal random effects in any Bayesian hierarchical model to deliver full posterior inference. Storage and memory requirements for a DNNGP model are linear in the size of the dataset thereby delivering massive scalability without sacrificing inferential richness. Extensive numerical studies reveal that the DNNGP provides substantially superior approximations to the underlying process than low rank approximations. Finally, we use the DNNGP to analyze a massive air quality dataset to substantially improve predictions of PM levels across Europe in conjunction with the LOTOS-EUROS chemistry transport models (CTMs).

研究の動機と目的

• 非可分共分散構造を有する大規模空間時系列データセットに対して、完全ガウス過程モデルの計算上的不実行性を解決すること。
• 推論の豊かさと予測精度を維持しつつ、密度行列GPモデルの代替としてスケーラブルな手法を開発すること。
• 大規模データセットであっても、任意の位置と時刻において完全事後分布推論を可能にすること。
• 物理モデル出力（例：LOTOS-EUROS CTM）と観測データを統合し、大気質予測を改善すること。
• 既存のモデルが捉えきれない、微小な時間的および空間的依存構造を、微粒子状態物質データから明らかにすること。

提案手法

• 局所的な空間的および時間的近傍を用いて、完全GP共分散構造を近似する動的近傍ガウス過程（DNNGP）を構築する。
• 相関関数から導出されるパラメトリック距離尺度に基づいて近傍集合を定義し、単調性を活用して効率的な更新を実現する。
• 局所的近傍における条件付き分布に依存することで、全行列分解を回避するギブスサンプラーを実装する。
• スパース精度行列と近傍に基づく更新を用いることで、観測数に線形に比例する計算量を保証する。
• ベイジアン階層モデルにおける空間時系列確率的効果のスパarsity誘導事前分布としてDNNGPを用いる。
• 柔軟な近傍選択と距離尺度を用いることで、非定常的かつ非可分共分散関数をサポートするフレームワークを拡張する。

実験結果

リサーチクエスチョン

• RQ1 近傍ベースのGPモデルは、非可分な大規模空間時系列データセットに対して、計算的スケーラビリティと高い予測精度を両立できるか？
• RQ2 DNNGPは、低ランクおよび他のスパースGP近似手法と比較して、予測性能と不確実性の定量化においてどのように差をつけるか？
• RQ3 DNNGPは、化学輸送モデルが捉えきれない微粒子状態物質データの残差的時間的および空間的依存構造をどの程度明らかにできるか？
• RQ4 DNNGPフレームワークは、大規模データセットを対象として、任意の空間時系列解像度で完全ベイズ推論を可能にするか？
• RQ5 LOTOS-EUROS CTM出力と組み合わせた場合、DNNGPの導入がヨーロッパ全域におけるPM10濃度予測をどの程度改善するか？

主な発見

• DNNGPモデルは、観測数に線形に比例する記憶領域と計算量を実現し、大規模データセットへのスケーラビリティを達成する。
• 数値実験の結果、DNNGPは低ランク手法と比較して、真のGPプロセスに対する著しく優れた近似を達成する。
• ヨーロッパのPM10データを用いた実世界の応用において、DNNGPは従来手法を著しく上回る予測精度を示した。
• 解析の結果、残差的時間相関が空間相関を上回って支配的であり、PM10の半減期と物理的に妥当な時間範囲と一致していた。
• 空間時系列プロセスの完全事後分布推論が、任意の位置と時刻で利用可能であり、統計的ダウンスケーリングが可能である。
• DNNGPフレームワークは非定常的および非可分共分散構造へと拡張可能であり、環境モデリングにおける柔軟性を高める。