[論文レビュー] Nonstationary, Nonparametric, Nonseparable Bayesian Spatio-Temporal Modeling Using Kernel Convolution of Order Based Dependent Dirichlet Process

Moumita Das, Sourabh Bhattacharya|arXiv (Cornell University)|May 20, 2014

Bayesian Methods and Mixture Models参考文献 38被引用数 5

ひとこと要約

本稿では、順序に基づく従属ディリクレ過程のカーネル畳み込みを用いて、複雑な空間時系列依存性を捉える非定常的で非パrametric的かつ非可分なベイズ空間時系列モデルを提案する。変数次元性の問題にはトランスディメンショナル変換MCMCを適用し、シミュレートされたデータおよび実データにおいてFuentesとReich（2013）を上回る優れた性能を示しており、無限級数の切り捨てに一様な誤差バウンディングを提示している。

ABSTRACT

In this article, using kernel convolution of order based dependent Dirichlet process (Griffin and Steel (2006)) we construct a nonstationary, nonseparable, nonparametric space-time process, which, as we show, satisfies desirable properties, and includes the stationary, separable, parametric processes as special cases. We also investigate the smoothness properties of our proposed model. Since our model entails an infinite random series, for Bayesian model fitting purpose we must either truncate the series or more appropriately consider a random number of summands, which renders the model dimension a random variable. We attack the variable dimensionality problem using Transdimensional Transformation based Markov Chain Monte Carlo introduced by Das and Bhattacharya (2019b), which can update all the variables and also change dimensions in a single block using essentially a single random variable drawn from some arbitrary density defined on a relevant support. For the sake of completeness we also address the problem of truncating the infinite series by providing a uniform bound on the error incurred by truncating the infinite series. We illustrate the effectiveness of our model and methodologies on a simulated data set and demonstrate that our approach significantly outperforms that of Fuentes and Reich (2013) which is based on principles somewhat similar to ours. We also fit two real, spatial and spatio-temporal datasets with our approach and obtain quite encouraging results in both the cases.

研究の動機と目的

• 空間的・時系列的依存構造が非定常的で、非可分的かつ非パrametric的であるような柔軟なベイズ空間時系列モデルの構築を目的とする。
• 非パラメトリックベイズモデルにおける無限の確率的級数展開に起因する変数次元性の問題に取り組むこと。
• 無限級数の切り捨てに一様な誤差バウンディングを保証する理論的根拠を提供すること。
• FuentesとReich（2013）のような既存の手法を上回り、複雑な空間時系列依存性をより柔軟にモデル化できるようにすること。
• シミュレートされたデータおよび現実世界の空間的・空間時系列的データセットにおいて、モデルの有効性を実証すること。

提案手法

• 順序に基づく従属ディリクレ過程のカーネル畳み込みを用いて、非定常的で非可分的かつ非パラメトリックな空間時系列過程を構築する。
• 成分数が自身で確率的変数であるランダム系列表現を採用し、トランスディメンショナル推論を実現する。
• パramータと次元性を1つのブロック内で同時に更新できる、トランスディメンショナル変換に基づくマルコフ連鎖モンテカルロ（TDT-MCMC）を適用する。
• 無限級数の切り捨てによって生じる誤差に対して一様なバウンディングを導出することで、理論的信頼性を確保する。
• MCMCアルゴリズムにおける次元変更の移動を容易にするために、任意の密度から得られる1つの確率的変数を用いる。
• 従属ディリクレ過程を用いて非パラメトリックベイズの非可分性を統合し、空間的・時系列的依存性を柔軟に表現する。

実験結果

リサーチクエスチョン

• RQ1 非定常的で非パラメトリック的かつ非可分なベイズ空間時系列モデルを構築でき、定常的かつ可分なパラメトリックモデルを一般化できるか？
• RQ2 無限の確率的級数に起因する変数次元性は、後方確率計算において効果的に取り扱えるか？
• RQ3 トランスディメンショナルMCMC手法は、空間時系列過程における確率的次元性を持つモデルを効率的に探索できるように適応可能か？
• RQ4 このようなモデルにおける無限級数展開の切り捨てに起因する理論的誤差バウンディングは何か？
• RQ5 提案手法は、FuentesとReich（2013）のような既存の手法よりも、複雑な空間時系列依存性を捉える能力において優れているか？

主な発見

• 提案手法は非定常的かつ非可分な空間時系列依存性を効果的に捉えており、定常的・可分的・パラメトリックモデルを特別なケースとして含めることができる。
• トランスディメンショナル変換MCMC法により、パramータと次元性を1つのブロック内で効率的に同時に更新でき、混合性と収束性が向上した。
• 無限級数の切り捨てに起因する誤差に対して一様なバウンディングを導出でき、有限の切り捨てを実装する際の理論的保証が得られた。
• シミュレートされたデータにおいて、予測精度と柔軟性の両面でFuentesとReich（2013）を著しく上回った。
• 2つの実データセット（1つは空間的、もう1つは空間時系列的）においても、期待される結果が得られ、強力な実証的性能を示した。
• 定常性や可分性を仮定せず、複雑な依存構造を効果的に扱えるため、パラメトリックモデルに対する頑健な代替手法を提供する。