[論文レビュー] Multilevel approximation of Gaussian random fields: Covariance compression, estimation and spatial prediction

Helmut Harbrecht, Lukas Herrmann+2 more|arXiv (Cornell University)|Mar 7, 2021

Soil Geostatistics and Mapping参考文献 56被引用数 5

ひとこと要約

本稿では、コンpakト多様体上のガウス型確率場（GRFs）に対して、ウェーブレットに基づく双直交マルチスケール解析を用いた、階層的近似フレームワークを提案する。共分散および精度行列が非適応的トーピングと前処理によりスパース化可能であることを証明し、シミュレーション、クリギング、共分散推定において、対数線形のサンプル複雑度を伴いながら近似的に最適な計算複雑度を達成可能であることを示した。

ABSTRACT

Centered Gaussian random fields (GRFs) indexed by compacta such as smooth, bounded Euclidean domains or smooth, compact and orientable manifolds are determined by their covariance operators. We consider centered GRFs given as variational solutions to coloring operator equations driven by spatial white noise, with an elliptic self-adjoint pseudodifferential coloring operator from the Hörmander class. This includes the Matérn class of GRFs as a special case. Using biorthogonal multiresolution analyses on the manifold, we prove that the precision and covariance operators, respectively, may be identified with bi-infinite matrices and finite sections may be diagonally preconditioned rendering the condition number independent of the dimension $p$ of this section. We prove that a tapering strategy by thresholding applied on finite sections of the bi-infinite precision and covariance matrices results in optimally numerically sparse approximations. That is, asymptotically only linearly many nonzero matrix entries are sufficient to approximate the original section of the bi-infinite covariance or precision matrix using this tapering strategy to arbitrary precision. The locations of these nonzero matrix entries are known a priori. The tapered covariance or precision matrices may also be optimally diagonally preconditioned. Analysis of the relative size of the entries of the tapered covariance matrices motivates novel, multilevel Monte Carlo (MLMC) oracles for covariance estimation, in sample complexity that scales log-linearly with respect to the number $p$ of parameters. In addition, we propose and analyze a novel compressive algorithm for simulating and kriging of GRFs. The complexity (work and memory vs. accuracy) of these three algorithms scales near-optimally in terms of the number of parameters $p$ of the sample-wise approximation of the GRF in Sobolev scales.

研究の動機と目的

• ガウス型確率場における密行列型共分散および精度行列に起因する大規模空間統計の計算ボトル neck を解消すること。
• 擬微分作用素とウェーブレット基底を用いた、コンパクト多様体上におけるGRF近似の数学的に厳密なフレームワークを構築すること。
• 最小限の計算コストと最適なスパarsityを実現しつつ、GRFの効率的シミュレーション、予測（クリギング）、共分散推定を可能にすること。
• 共分散および精度作用素を表す双無限行列に対するトーピングおよび前処理の理論的保証を確立すること。
• BickelとLevinaの正則化共分散推定を、より優れたサンプル複雑度を有するマルチレベルモンテカルロオラクルを介して、擬微分作用素へと拡張すること。

提案手法

• 楕円的かつ自己随伴的かつ正定値な擬微分作用素を用いた空間白色ノイズ駆動のSPDEとしてGRFを表現する。
• 多様体上における双直交マルチスケール解析を用い、共分散および精度作用素を双無限行列として表現する。
• 行列の有限断片に対して、エントリのしきい値処理を施すことでトーピングを適用し、漸近的に線形なスパarsityを持つ数値的スパース近似を得る。
• 対角前処理を施すことにより、行列次元 $p$ に依存しない条件数を達成する。
• エントリの大きさ解析に基づくマルチレベルモンテカルロ（MLMC）オラクルを構築し、共分散推定において $p$ に対して対数線形のサンプル複雑度を達成する。
• ウェーブレット係数表現を用いた、GRFシミュレーションおよびクリギングのための圧縮アルゴリズムを提案し、ソボレフノルムにおいて近似的に最適な複雑度スケーリングを達成する。

実験結果

リサーチクエスチョン

• RQ1 コンパクト多様体上におけるGRFの共分散および精度作用素は、ウェーブレットに基づく手法を用いて、近似的に最適な計算複雑度で近似可能か？
• RQ2 双無限共分散および精度行列の有限断片に対するトーピングは、任意の精度で漸近的に線形な非ゼロエントリ数を持つ数値的スパース近似をもたらすか？
• RQ3 非適応的かつ事前に既知のスパarsityパターンを用いることで、最適な前処理および安定した数値的解法が達成可能か？
• RQ4 マルチレベルモンテカルロを用いた有限断片の擬微分作用素共分散作用素推定における最適なサンプル複雑度は何か？
• RQ5 得られたスパースかつ前処理済み行列を用いて、ソボレフスケールにおいて近似的に最適な作業-精度スケーリングを達成するGRFシミュレーションおよびクリギングのための圧縮アルゴリズムを設計可能か？

主な発見

• 双無限共分散および精度行列の有限断片に対するトーピングは、任意の精度で漸近的に線形な非ゼロエントリ数を持つ数値的スパース近似をもたらす。
• 対角前処理を施したトーピング行列の条件数は、行列次元 $p$ に依存せずに有界のままである。
• 共分散推定のためのマルチレベルモンテカルロオラクルは、パrameter数 $p$ に対して対数線形のサンプル複雑度を達成する。
• 提案されたGRFシミュレーションおよびクリギングのための圧縮アルゴリズムは、ソボレフスケールにおいて $p$ に関して近似的に最適な作業およびメモリ複雑度を達成する。
• 多様体上におけるマテルン型GRFに対して、共分散作用素の固有値のスペクトルプレートウオのスケーリングは $J^* = \mathcal{O}(\kappa^{2n/\bar{r}}) = \mathcal{O}(\bar{\lambda}^{-n})$ となる。ここで $\bar{\lambda}$ は相関長さを表す。
• MLMC共分散推定の計算作業は、$2\alpha > n$ の場合 $\mathcal{O}(2^{J2\alpha_0})$、$2\alpha = n$ の場合 $\mathcal{O}(2^{J2\alpha_0}J^3)$、$2\alpha < n$ の場合 $\mathcal{O}(2^{J(n - 2(\alpha_0 - \alpha))})$ に比例する。ここで $\varepsilon = 2^{2J\alpha_0}$ は誤差許容度である。