[논문 리뷰] Spatial meshing for general Bayesian multivariate models

Michele Peruzzi, David B. Dunson|PubMed|2022. 01. 25.

Statistical Methods and Bayesian Inference인용 수 5

한 줄 요약

이 논문은 비정규 분포 결과를 가진 다변량 공간 모델에 대해 공간 메시징과 새로운 MCMC 알고리즘인 SiMPA를 활용한 확장 가능한 베이지안 프레임워크를 제안한다. SiMPA 알고리즘은 고비용 행렬 연산 없이 이차 기하학적 정보를 활용하여 샘플링 효율을 향상시킨다. 이 방법은 수천에서 수십만 개의 위치와 다수의 결과 유형을 포함한 대규모 지공간 데이터셋에서 빠르고 정확한 추론을 가능하게 하며, 표준 MCMC 접근법보다 혼합 및 수렴 성능에서 뛰어나다.

ABSTRACT

Quantifying spatial and/or temporal associations in multivariate geolocated data of different types is achievable via spatial random effects in a Bayesian hierarchical model, but severe computational bottlenecks arise when spatial dependence is encoded as a latent Gaussian process (GP) in the increasingly common large scale data settings on which we focus. The scenario worsens in non-Gaussian models because the reduced analytical tractability leads to additional hurdles to computational efficiency. In this article, we introduce Bayesian models of spatially referenced data in which the likelihood or the latent process (or both) are not Gaussian. First, we exploit the advantages of spatial processes built via directed acyclic graphs, in which case the spatial nodes enter the Bayesian hierarchy and lead to posterior sampling via routine Markov chain Monte Carlo (MCMC) methods. Second, motivated by the possible inefficiencies of popular gradient-based sampling approaches in the multivariate contexts on which we focus, we introduce the simplified manifold preconditioner adaptation (SiMPA) algorithm which uses second order information about the target but avoids expensive matrix operations. We demostrate the performance and efficiency improvements of our methods relative to alternatives in extensive synthetic and real world remote sensing and community ecology applications with large scale data at up to hundreds of thousands of spatial locations and up to tens of outcomes. Software for the proposed methods is part of R package meshed, available on CRAN.

연구 동기 및 목표

• 결과가 비정규 분포이고 데이터가 대규모일 경우 베이지안 다변량 공간 모델에서 발생하는 계산적 병목 현상을 해결하기 위해.
• 다양한 데이터 유형(예: 카운트, 이진, 연속형)을 유연하게 모델링하면서도 계산 효율성을 유지하는 확장 가능한 추론 프레임워크를 개발하기 위해.
• 고차원 비정규 설정에서 기울기 기반 MCMC 방법의 비효율성을 새로운 전처리 전략을 통해 극복하기 위해.
• 방향성 비순환 그래프(DAGs)와 공간 메시잉을 위한 도메인 분할을 통해 복잡한 공간 모델에서 실용적인 사후 분포 계산을 가능하게 하기 위해.

제안 방법

• 조건부 독립성 구조를 통해 공간적 의존성을 표현하기 위해 방향성 비순환 그래프(DAGs)를 사용하여 희소 정밀도 행렬을 확보하고 효율적인 MCMC 샘플링을 가능하게 한다.
• 도메인 분할을 적용하여 공간 메시드 가우시안 프로세스(MGPs)를 생성함으로써 계산 비용을 감소시키면서도 공간 상관 구조를 유지한다.
• 지역적 이차 정보를 활용하여 풀 헤시안 행렬 계산 없이도 제안 효율성을 향상시키는 단순화된 다양체 전처리 적응(SiMPA) 알고리즘을 도입한다.
• 공분산 매개변수 샘플링을 위해 GriPS 방법을 활용하여 잠재 프로세스 모델의 혼합 및 불확실성 정량화를 향상시킨다.
• 잠재 가우시안 프로세스와 다양한 가능도 함수(Poisson, 음이항분포, 이항분포, 가우시안)를 조합하여 다변량 비정규 반응을 모델링한다.
• 희소 행렬 루틴과 국소 근사 기법을 사용하여 최대 250,000개의 공간 위치와 수십 개의 결과를 포함한 데이터셋으로의 추론 스케일링을 구현한다.

실험 결과

연구 질문

• RQ1 공간 메시잉과 DAG 기반 모델링은 고차원 비정규 다변량 공간 모델에서 효율적인 MCMC 샘플링을 가능하게 하는가?
• RQ2 다양한 결과 유형에 대해 SiMPA는 MALA 및 NUTS 대비 초당 유효 표본 크기(ESS/s)에서 어떻게 성능을 내는가?
• RQ3 공간 메시잉과 국소 조건부 설정은 대규모 지공간 데이터에서 사후 혼합 및 수렴을 향상시키는가?
• RQ4 GriPS 방법은 잠재 프로세스 매개변수의 샘플러 효율성 향상과 불확실성 정량화에 얼마나 효과적인가?
• RQ5 제안된 프레임워크는 카운트, 이진, 연속형 등 혼합된 데이터 유형을 포함한 복잡한 실세계 데이터를 처리하면서도 계산 확장성을 유지할 수 있는가?

주요 결과

• SiMPA는 가우시안 결과에 대해 평균 ESS/s가 17.65이며, 음이항분포 결과에 대해선 9.03을 기록하여 MALA(8.35 및 1.31)와 NUTS(2.15 및 0.32)보다 뚜렷이 뛰어나다.
• 이진 결과에 대해서는 SiMPA가 4.26 ESS/s를 기록하여 MALA(1.15), NUTS(0.25), SM-MALA(1.81)를 모두 초월한다.
• 모든 결과 유형에서 SiMPA는 95% 신뢰구간의 높은 실측 커버리지(0.944–0.948)를 유지하며, 모든 결과 유형에서 RMSPE 값이 0.45 이하를 기록한다.
• 모든 결과 유형, 특히 포isson과 이진 결과가 혼합된 경우에도 안정적인 성능을 보이며, RMSPE 값은 1.194–1.212이고 커버리지가 0.94 초과를 기록한다.
• 2500개의 위치와 750개의 데이터셋을 포함한 시뮬레이션 데이터에서 SiMPA는 ESS/s와 불확실성 정량화에서 일관된 향상을 보이며, 특히 매개변수 확장에 GriPS를 조합했을 때 두드러진 성능 향상을 보인다.
• 실제 원격 감시 및 공동체 생태학 데이터에 대해 최대 250,000개의 공간 위치와 최대 10개의 결과를 포함한 데이터셋에서도 효과적으로 확장되며 실용적 유용성을 입증한다.