[논문 리뷰] Inference for log Gaussian Cox processes using an approximate marginal posterior

Shinichiro Shirota, Alan E. Gelfand|arXiv (Cornell University)|2016. 11. 30.

Soil Geostatistics and Mapping참고 문헌 2인용 수 3

한 줄 요약

이 논문은 공간 로그 정규 코크스 프로세스(LGCPs)에서 효율적인 추론을 위해 허위 마진형 MCMC 알고리즘을 제안한다. 초모수에 대한 근사 마진형 사후분포를 추정하기 위해 라플라스 근사법을 사용한다. 잠재 정규 프로세스와 초모수를 분리하고, 적응형 튜닝 및 고정된 피셔 정보 근사법을 적용함으로써, 특히 미세한 격자 분할에서 표준 MCMC에 비해 더 빠른 혼합 속도와 더 낮은 계산 비용을 달성한다.

ABSTRACT

The log Gaussian Cox process is a flexible class of point pattern models for capturing spatial and spatio-temporal dependence for point patterns. Model fitting requires approximation of stochastic integrals which is implemented through discretization of the domain of interest. With fine scale discretization, inference based on Markov chain Monte Carlo is computationally heavy because of the cost of repeated iteration or inversion or Cholesky decomposition (cubic order) of high dimensional covariance matrices associated with latent Gaussian variables. Furthermore, hyperparameters for latent Gaussian variables have strong dependence with sampled latent Gaussian variables. Altogether, standard Markov chain Monte Carlo strategies are inefficient and not well behaved. In this paper, we propose an efficient computational strategy for fitting and inferring with spatial log Gaussian Cox processes. The proposed algorithm is based on a pseudo-marginal Markov chain Monte Carlo approach. We estimate an approximate marginal posterior for parameters of log Gaussian Cox processes and propose comprehensive model inference strategy. We provide details for all of the above along with some simulation investigation for the univariate and multivariate settings. As an example, we present an analysis of a point pattern of locations of three tree species, exhibiting positive and negative interaction between different species.

연구 동기 및 목표

• 고차원 잠재 정규 프로세스에서 MCMC의 계산 부담을 줄이기 위해 반복적인 코レス키 분해와 행렬 역행렬 계산을 방지한다.
• LGCP 모델에서 초모수와 잠재 변수 간의 강한 의존성으로 인한 표준 MCMC의 열악한 혼합 속도와 느린 수렴 문제를 해결한다.
• 정확도를 유지하면서 계산 비용을 줄이는 다변량 및 단변량 LGCPs에 대한 확장 가능한 추론 전략을 개발한다.
• 복잡한 의존성 구조(예: 종 간 상호작용 데이터)를 가진 공간 및 시공간 점 패턴에 대한 실용적인 베이지안 추론을 가능하게 한다.
• 라플라스 근사법을 사용해 초모수의 마진형 사후분포를 근사하고, MCMC 반복 과정에서 핵심 요소를 고정함으로써 샘플링 효율을 향상시킨다.

제안 방법

• 고차원 잠재 정규 프로세스의 직접 샘플링을 피하기 위해 초모수의 근사 마진형 사후분포를 대상으로 하는 허위 마진형 MCMC 프레임워크를 사용한다.
• 잠재 변수와 초모수의 결합 사후분포에 대해 라플라스 근사법을 적용하여 초모수의 사후분포에 대한 다루기 쉬운 근사값을 확보한다.
• MCMC 반복 과정에서 잠재 필드(ν)의 피셔 정보 행렬의 역행렬을 고정하여 고비용 재계산을 방지하고, 동시에 회귀 계수(β)와 의존성 매개변수(ζ)의 경우는 업데이트한다.
• 단계 크기 조정이 필요 없고 랜덤 워크 행동을 줄이는 바람직한 특성을 지닌 타원형 슬라이스 샘플링을 사용해 잠재 정규 프로세스 ν의 효율적 샘플링을 수행한다.
• 회귀 계수 β와 의존성 매개변수 ζ의 샘플링을 위해 맨포일드 MALA(MMALA)를 사용하며, 피셔 정보에서 유도된 조정 행렬을 적용해 혼합 속도를 향상시킨다.
• 기울기 하강법을 통한 최대 사후확률(_MAP_) 추정과 ζ에 대한 최소 대비 추정법을 사용해 초기화하여 안정적인 수렴을 확보한다.

실험 결과

연구 질문

• RQ1 미세한 격자 분할과 고차원 잠재 정규 프로세스를 다룰 때 공간 LGCPs의 MCMC 추론을 어떻게 효율적으로 만들 수 있는가?
• RQ2 잠재 필드 ν에 대한 역 피셔 정보 행렬을 고정함으로써 LGCPs의 MCMC 샘플링에서 혼합 속도 향상과 계산 비용 절감에 어느 정도 기여하는가?
• RQ3 라플라스 근사법에 기반한 허위 마진형 접근법이 고차원 잠재 변수의 직접 샘플링 없이도 LGCP 초모수에 대한 정확한 사후 추론을 가능하게 하는가?
• RQ4 다변량 및 단변량 LGCP 모델에서 제안된 방법이 표준 MCMC 및 INLA 기반 접근법에 비해 성능과 정확도 면에서 어떻게 비교되는가?
• RQ5 적응형 튜닝과 구성요소별 샘플링 전략이 복잡한 공간 의존성을 가진 LGCP 모델의 수렴과 혼합에 어떤 영향을 미치는가?

주요 결과

• 고정된 피셔 정보 행렬을 사용한 제안된 허위 마진형 MCMC는 고차원 공분산 행렬의 반복 역행렬 계산을 피함으로써 계산 비용을 크게 절감한다.
• 잠재 필드 ν에 대한 역 피셔 정보 행렬을 고정하고 β와 ζ에 대해서만 업데이트함으로써 MCMC 체인의 수렴 속도 향상과 혼합 개선이 이루어진다.
• ν에 대해 타원형 슬라이스 샘플링을 사용함으로써 단계 크기 조정이 필요 없으며, 랜덤 워크 메트로폴리스-해스팅스보다 샘플링 효율성이 향상된다.
• 초모수에 대한 정확한 사후 추론을 달성하였으며, 시뮬레이션 연구에서 후행밀도가 진값과 매우 유사하게 추적된다(예: 그림 5와 6에서 φ = 1 및 φ = 5).
• 수용률을 0.574로 유지하기 위해 σ₀²에 대한 적응형 튜닝을 통해 수동 캘리브레이션 없이도 매개변수 공간의 효율적 탐색이 가능하다.
• 제안된 방법은 단변량 및 다변량 LGCPs 모두에 대해 확장 가능하고 효과적이며, 양성 및 음성 상호작용을 보이는 세 종의 나무에 대한 분석을 통해 이를 입증하였다.