[論文レビュー] Spatial Multivariate Trees for Big Data Bayesian Regression

Michele Peruzzi, David B. Dunson|PubMed|Dec 2, 2020

Soil Geostatistics and Mapping参考文献 61被引用数 6

ひとこと要約

本稿では、空間的多次元木（SpamTrees）を紹介する。これは、潜在的な空間的ランダム効果における条件付き独立性を誘導するために木構造の有向非巡回グラフ（DAG）を用いる、スケーラブルなベイズ的多次元回帰フレームワークであり、大規模な地理空間データに適している。マルチスケールの分割と効率的なMCMCサンプリングを活用することで、不揃いな多次元データセットにおいて高い計算効率と正確な不確実性の定量化を達成し、実際の気候データにおいて、低ランクGPおよびINLA手法よりも予測の被覆率と誤差指標で優れている。

ABSTRACT

High resolution geospatial data are challenging because standard geostatistical models based on Gaussian processes are known to not scale to large data sizes. While progress has been made towards methods that can be computed more efficiently, considerably less attention has been devoted to methods for large scale data that allow the description of complex relationships between several outcomes recorded at high resolutions by different sensors. Our Bayesian multivariate regression models based on spatial multivariate trees (SpamTrees) achieve scalability via conditional independence assumptions on latent random effects following a treed directed acyclic graph. Information-theoretic arguments and considerations on computational efficiency guide the construction of the tree and the related efficient sampling algorithms in imbalanced multivariate settings. In addition to simulated data examples, we illustrate SpamTrees using a large climate data set which combines satellite data with land-based station data. Software and source code are available on CRAN at https://CRAN.R-project.org/package=spamtree.

研究の動機と目的

• 大規模で不揃いなデータセットを対象とした伝統的なガウス過程モデルのスケーラビリティの制限に対処すること。
• 有効な不確実性の定量化を維持しながら、複数の結果間の複雑な共分散構造を捉えることができる、計算効率の高いベイズフレームワークを開発すること。
• 再帰的ドメイン分割に基づくスパースで階層的なDAG構造を構築することで、衛星観測や地上局の観測データなどの高分解能の多次元環境データの空間モデリングを可能にすること。
• 大規模で現実的な気候応用において、低ランクGP、INLA、BARTなどの既存手法よりも、予測性能と計算効率を向上させること。

提案手法

• SpamTreesは、空間的場所間の条件付き独立性を強制することで計算スケーラビリティを確保する、潜在的空間的ランダム効果を木構造の有向非巡回グラフ（DAG）でモデル化する。
• 木構造は、空間ドメインの再帰的分割によって構築され、粗いグリッド（例：36のルートノード）から出発し、各ノードは空間的部分集合を表し、軸に平行な分割によって子ノードが形成される。
• チェリーピッキング関数により、基準でない観測位置が木のリーフノードにリンクされ、効率的な尤度計算と事後分布推論が可能になる。
• DAGにおける条件付き独立性により、グラフ彩色を用いた並列化が可能なブロックGibbsサンプリングが可能となり、MCMCの混合と収束が著しく改善される。
• 特に不均衡な多次元設定において、情報理論的原則と計算効率の考慮を統合し、木構造の構築とサンプリングをガイドする。
• Rを用いて実装されており、Intel MKLを介したマルチスレッド線形代数を活用することで、大規模データセット（例：100万件以上の観測）においても高性能な推論が可能である。

実験結果

リサーチクエスチョン

• RQ1 ベイズ的多次元空間的モデルは、大規模で不揃いな地理空間データセットにおいて、正確な不確実性の定量化と予測性能を維持しながらスケーラブルに拡張可能か？
• RQ2 木構造のDAG構造を用いることで、標準的なGP近似と比較して、多次元空間的回帰における計算効率と事後分布サンプリングがどのように向上するか？
• RQ3 実世界の気候データにおいて、複雑な空間的および多次元的依存性を有する状況で、SpamTreesは低ランクGP、INLA、BARTよりも予測精度と被覆率で優れているか？
• RQ4 異なる木の深さや基準サブセットサイズは、高次元空間的設定におけるモデルの性能と計算コストにどのように影響するか？
• RQ5 本手法は、衛星観測と地上局観測を統合したような、空間的分解能やスパarsityが異なるデータを効果的に処理できるか？

主な発見

• SpamTreesは、LST_Day_CMGとLST_Night_CMGについて100%の外挿被覆率を達成し、Clear_sky_nightsについても94.27%を記録し、被覆率の正確性において低ランクGPおよびBARTを上回った。
• SpamTreesのRMSEは、LST_Day_CMGで1.6991、LST_Night_CMGで1.4024であり、同じデータセットにおいて低ランクGPおよびBARTよりも優れた予測精度を示した。
• MODISとGHCNデータを統合した大規模な気候データセット（100万件以上）を用いて、20CPUスレッドで15.64時間で推論を完了し、高い計算効率を示した。
• SpamTreesは、Clear_sky_days（86.62%）を除くすべての変数で95%の被覆率を達成し、多様な多次元結果において堅牢な不確実性の定量化を示した。
• 多変量INLAおよびトレスラティドMGPよりも予測性能が優れており、特にPRCPおよびClear_sky_daysにおいて、MAEとRMSEが低かった。
• 5段階のフルデプス木と36のルートノードを用いることで、複雑な空間的依存パターンの効果的なモデリングが可能になりながら、計算の tractability を維持した。