[논문 리뷰] Latent Gaussian modeling and INLA: A review with focus on space-time applications

Thomas Opitz|arXiv (Cornell University)|2017. 08. 09.

Soil Geostatistics and Mapping참고 문헌 22인용 수 19

한 줄 요약

이 논문은 잠재 가우시안 모델과 통합 내재 라플라스 근사(INLA) 프레임워크를 검토하며, 공간-시간 자료에의 응용을 강조한다. INLA가 확률적 편미분방정식에서 유도된 가우스-마르코프 임의의 장(field)을 사용하여 빠르고 정확한 베이지안 추론을 가능하게 함을 보여주며, R-INLA 패키지를 통한 실용적 구현과 비정규 분포 공간-시간 카운트 자료에 대한 시뮬레이션 연구를 통한 검증을 수반한다.

ABSTRACT

Bayesian hierarchical models with latent Gaussian layers have proven very flexible in capturing complex stochastic behavior and hierarchical structures in high-dimensional spatial and spatio-temporal data. Whereas simulation-based Bayesian inference through Markov Chain Monte Carlo may be hampered by slow convergence and numerical instabilities, the inferential framework of Integrated Nested Laplace Approximation (INLA) is capable to provide accurate and relatively fast analytical approximations to posterior quantities of interest. It heavily relies on the use of Gauss-Markov dependence structures to avoid the numerical bottleneck of high-dimensional nonsparse matrix computations. With a view towards space-time applications, we here review the principal theoretical concepts, model classes and inference tools within the INLA framework. Important elements to construct space-time models are certain spatial Matérn-like Gauss-Markov random fields, obtained as approximate solutions to a stochastic partial differential equation. Efficient implementation of statistical inference tools for a large variety of models is available through the INLA package of the R software. To showcase the practical use of R-INLA and to illustrate its principal commands and syntax, a comprehensive simulation experiment is presented using simulated non Gaussian space-time count data with a first-order autoregressive dependence structure in time.

연구 동기 및 목표

• 복잡한 공간 및 공간-시간 자료를 다루는 연구자들을 대상으로 잠재 가우시안 모델과 INLA 추론 프레임워크에 대한 종합적인 리뷰를 제공하는 것.
• 고차원 모델에서 계산 속도와 수치적 안정성 측면에서 전통적인 MCMC 방법에 비해 INLA의 장점을 부각하는 것.
• R-INLA 소프트웨어 패키지를 활용한 공간-시간 모델에 대한 INLA의 실용적 구현을 보여주는 것.
• 공간-시간 응용 분야에서 융통성 있고 계산 효율적인 가우스-마르코프 임의의 장을 구성하기 위해 SPDE 접근법의 사용을 설명하는 것.
• 시뮬레이션된 비정규 분포 공간-시간 카운트 자료를 바탕으로 정보 기준(DIC, WAIC)과 사후 요약 통계량을 사용해 모델 성능을 평가하는 것.

제안 방법

• 빠르고 분석적인 후행 분포의 근사값을 제공하기 위해 통합 내재 라플라스 근사(INLA)를 사용하여 느린 MCMC 수렴 문제를 피한다.
• 공간 및 공간-시간 의존성 구조를 효율적으로 모델링하기 위해 확률적 편미분방정식(SPDE)에서 유도된 가우스-마르코프 임의의 장을 활용한다.
• SPDE 접근법을 적용하여 희소 정밀도 행렬을 생성하는 근사 해를 도출함으로써 고차원 계산을 가능하게 한다.
• 가능도 지정, 잠재 가우시안 모델, 초우도(hyperpriors)라는 세 가지 핵심 구성 요소를 사용하여 R-INLA 패키지에서 모델을 구현한다.
• 정밀도 행렬 Q*를 기반으로 가우스-코프라(Copula)를 활용해 후행 의존성 구조를 근사하기 위해 inla.posterior.sample() 함수를 사용한다.
• 모델 비교 지표로 DIC, WAIC, 및 주변 가능도를 활용하여 경쟁 모델을 평가하고 순위를 매긴다.

실험 결과

연구 질문

• RQ1 복잡한 공간-시간 모델에 대해 INLA는 MCMC에 비해 정확도와 계산 효율성 측면에서 어떻게 비교되는가?
• RQ2 SPDE 접근법은 잠재 가우시안 모델에서 비분리 공간-시간 의존성을 얼마나 정확하게 표현할 수 있는가?
• RQ3 비정규 가능도(예: 음이이항분포)를 갖는 공간-시간 설정에서 INLA 근사의 성능은 얼마나 우수한가?
• RQ4 초우도 선택(예: SPDE에서 ν = 0)은 모델 추정과 매개변수 복원에 어떤 영향을 미치는가?
• RQ5 R-INLA는 다양한 가능도와 의존성 구조를 갖는 공간-시간 모델을 효과적으로 피팅하고 비교하기 위해 어떻게 활용될 수 있는가?

주요 결과

• 가우시안 가능도를 사용한 모델 1은 DIC = 8540, WAIC = 8520을 기록했으며, 사후 평균 범위 = 0.29(95% 신뢰구간: 0.25–0.33), 분산 = 0.95(0.84–1.08)를 기록하여 시뮬레이션 값과 밀접하게 일치했다.
• 음이이항분포 가능도와 SPDE 사전분포에서 ν = 0을 사용한 모델 5는 추정 분산 = 0.11(0.09–0.14)로 유의미한 편차를 보였으며, 이는 매개변수 추정의 잠재적 불안정성을 시사했다.
• 자기상관 계수 a는 그가 포함된 모든 모델에서 일관되게 약 0.49–0.53로 추정되었으며, 95% 신뢰구간이 참값 0.5를 포함했다.
• 다른 공간 구조를 갖는 가우시안 가능도를 사용한 모델 4는 DIC = 8550, WAIC = 8510을 기록하여 모델 1과 유사한 성능을 보였다.
• 공간 효과가 없는 음이이항분포 가능도를 사용한 모델 3는 가장 높은 DIC(9530)와 WAIC(9270)를 기록하여 공간 구조를 포함한 모델들에 비해 피팅이 열악함을 시사했다.
• 모델 1, 4, 5, 6의 주변 가능도(mlik)는 일관되게 약 -4750였으며, 이는 서로 다른 구조를 가짐에도 불구하고 유사한 모델 증거를 의미한다.