[논문 리뷰] Multilevel approximation of Gaussian random fields: Covariance compression, estimation and spatial prediction

Helmut Harbrecht, Lukas Herrmann외 2명|arXiv (Cornell University)|2021. 03. 07.

Soil Geostatistics and Mapping참고 문헌 56인용 수 5

한 줄 요약

이 논문은 파동장 기반 이분기저 다중해상도 분석을 사용하여 밀도가 높은 공분산 및 정밀도 행렬 문제를 해결하기 위해, 컴act 다양체 위의 가우시안 랜덤 필드(GRFs)에 대한 다수준 근사 프레임워크를 제안한다. 비적응형 타퍼링과 조건수 조절을 통해 공분산 및 정밀도 행렬을 희박화할 수 있음을 증명하였으며, 이는 샘플 수가 로그선형으로 증가할 때 근사적으로 최적의 복잡도로 시뮬레이션, 크리징, 공분산 추정이 가능하게 한다.

ABSTRACT

Centered Gaussian random fields (GRFs) indexed by compacta such as smooth, bounded Euclidean domains or smooth, compact and orientable manifolds are determined by their covariance operators. We consider centered GRFs given as variational solutions to coloring operator equations driven by spatial white noise, with an elliptic self-adjoint pseudodifferential coloring operator from the Hörmander class. This includes the Matérn class of GRFs as a special case. Using biorthogonal multiresolution analyses on the manifold, we prove that the precision and covariance operators, respectively, may be identified with bi-infinite matrices and finite sections may be diagonally preconditioned rendering the condition number independent of the dimension $p$ of this section. We prove that a tapering strategy by thresholding applied on finite sections of the bi-infinite precision and covariance matrices results in optimally numerically sparse approximations. That is, asymptotically only linearly many nonzero matrix entries are sufficient to approximate the original section of the bi-infinite covariance or precision matrix using this tapering strategy to arbitrary precision. The locations of these nonzero matrix entries are known a priori. The tapered covariance or precision matrices may also be optimally diagonally preconditioned. Analysis of the relative size of the entries of the tapered covariance matrices motivates novel, multilevel Monte Carlo (MLMC) oracles for covariance estimation, in sample complexity that scales log-linearly with respect to the number $p$ of parameters. In addition, we propose and analyze a novel compressive algorithm for simulating and kriging of GRFs. The complexity (work and memory vs. accuracy) of these three algorithms scales near-optimally in terms of the number of parameters $p$ of the sample-wise approximation of the GRF in Sobolev scales.

연구 동기 및 목표

• 가우시안 랜덤 필드에서 밀도가 높은 공분산 및 정밀도 행렬로 인한 대규모 공간 통계의 계산적 병목 현상을 해결한다.
• 편미분형 연산자와 웨이브렛 기반 기저를 사용하여 컴act 다양체 위의 GRF 근사를 위한 수학적으로 엄밀한 프레임워크를 개발한다.
• 최소한의 계산 비용과 최적의 희박성으로 효율적인 시뮬레이션, 예측(크리징), 공분산 추정을 가능하게 한다.
• 공분산 및 정밀도 연산자를 나타내는 이중무한 행렬에 대한 타퍼링과 조건수 조절에 대한 이론적 보장을 수립한다.
• 비크엘과 레빈의 정규화된 공분산 추정을 다중수준 몬테카를로 오рак루를 통해 편미분형 연산자로 확장하여 더 나은 샘플 복잡도를 확보한다.

제안 방법

• 공분산 및 정밀도 연산자를 나타내는 타원형, 자기수반형, 양의 편미분형 연산자를 갖는 공간 백색 잡음에 의해 구동되는 SPDE의 해로 GRF를 표현한다.
• 다양체 위에서 이분기저 다중해상도 분석을 사용하여 공분산 및 정밀도 연산자를 이중무한 행렬로 표현한다.
• 행렬의 유한한 부분에 타퍼링을 적용하여 요소들을 임계값 처리함으로써 수치적으로 희박한 근사를 얻는다. 이는 점 渐진적으로 선형적인 희박성과 함께 임의의 정확도로 유지된다.
• 행렬 차원 $p$에 독립적인 조건수를 확보하기 위해 대각선 조건수 조절을 수행한다.
• 행렬 요소 크기 분석 기반의 다중수준 몬테카를로(MLMC) 오라클을 구축하여 공분산 추정을 수행하며, 이는 $p$에 대해 로그선형 샘플 복잡도를 달성한다.
• 웨이브렛 계수 표현을 기반으로 한 압축 알고리즘을 제안하여 GRF 시뮬레이션과 크리징을 수행하며, 이는 소볼레프 노름 기준으로 근사적으로 최적의 복잡도 스케일링을 갖는다.

실험 결과

연구 질문

• RQ1 컴act 다양체 위의 GRF에 대해 웨이브렛 기반 방법을 사용하여 근사적으로 최적의 계산 복잡도로 공분산 및 정밀도 연산자를 근사할 수 있는가?
• RQ2 이중무한 공분산 및 정밀도 행렬의 유한한 부분에 대한 타퍼링이 점 渐진적으로 선형적인 비제로 요소를 갖는 수치적으로 희박한 근사를 유도하는가?
• RQ3 사전에 알려진 비적응형, 비적응형 희박성 패턴을 사용하여 최적의 조건수 조절과 안정적인 수치적 해법을 달성할 수 있는가?
• RQ4 다중수준 몬테카를로를 사용하여 편미분형 공분산 연산자의 유한한 부분을 추정할 때 최적의 샘플 복잡도는 무엇인가?
• RQ5 결과적으로 생성된 희박하고 조건수 조절된 행렬을 어떻게 사용하여 GRF 시뮬레이션과 크리징에 대해 근사적으로 최적의 작업-정확도 스케일링을 갖는 압축 알고리즘을 설계할 수 있는가?

주요 결과

• 이중무한 공분산 및 정밀도 행렬의 유한한 부분에 대한 타퍼링은 임의의 정확도로 점 渐진적으로 선형적인 비제로 요소 수를 갖는 수치적으로 희박한 근사를 유도한다.
• 대각선 조건수 조절 이후 타퍼링된 행렬의 조건수는 행렬 차원 $p$에 독립적으로 유한하게 유지된다.
• 공분산 추정을 위한 다중수준 몬테카를로 오라클은 파rameter 수 $p$에 대해 로그선형으로 증가하는 샘플 복잡도를 달성한다.
• 제안된 GRF 시뮬레이션 및 크리징을 위한 압축 알고리즘은 소볼레프 척도에서 $p$에 대해 근사적으로 최적의 작업 및 메모리 복잡도 스케일링을 달성한다.
• 다양체 위의 매트른 유형 GRF에 대해, 공분산 연산자의 고유값 스펙트럼 플랫폼은 $J^* = \mathcal{O}(\kappa^{2n/\bar{r}}) = \mathcal{O}(\bar{\lambda}^{-n})$로 스케일링되며, 여기서 $\bar{\lambda}$는 상관 길이다.
• MLMC 공분산 추정의 계산 작업 복잡도는 $2\alpha > n$일 때 $\mathcal{O}(2^{J2\alpha_0})$, $2\alpha = n$일 때 $\mathcal{O}(2^{J2\alpha_0}J^3)$, $2\alpha < n$일 때 $\mathcal{O}(2^{J(n - 2(\alpha_0 - \alpha))})$로 스케일링되며, 오차 허용 오차 $\varepsilon = 2^{2J\alpha_0}$이다.