[논문 리뷰] Auxiliary Variable Markov Chain Monte Carlo for Spatial Survival and Geostatistical Models

Benjamín M. Taylor|arXiv (Cornell University)|2015. 01. 07.

Spatial and Panel Data Analysis참고 문헌 62인용 수 5

한 줄 요약

이 논문은 정규 격자 위의 보조 변수를 도입하여 개인 수준의 공간적 프레일티를 대체함으로써 공간 생존 모델 및 지구통계 모델에서 계산 비용을 O(n³)에서 O(n)으로 감소시키는 보조 변수를 가진 마르코프 체인 몬테카를로(MCMC) 방법을 제안한다. 이 방법은 O(m log m)의 비용으로 격자 해상도를 높일 수 있어 대규모 데이터셋에 대한 확장성 향상이 뚜렷하며, 효율적인 베이지안 추론과 공간 예측을 가능하게 한다.

ABSTRACT

This article was motivated by the desire to improve Markov chain Monte Carlo methods for spatial survival models in which the locations of individuals in space are known. For a dataset comprising information on n individuals, standard methods of MCMC-based inference involve computing the inverse of an n by n matrix at each iteration. However with a judicious choice of auxiliary variables on a regular grid with m prediction points it will be shown how to fit an essentially equivalent model but with a substantially reduced computational cost. For a fixed output grid, the computational cost of the new method is reduced from O(n^3) to O(n); the cost of increasing the output grid size being O(m\log m). Furthermore, the new method simultaneously solves the problem of spatial prediction of functions of the latent field, which for standard methods usually presents a further computational challenge. We apply the new method to a spatial survival dataset previously analysed in Henderson et. al 2002 and show how the new method can be applied to spatial and spatiotemporal geostatistical datasets with the same computational benefits.

연구 동기 및 목표

• 개인 수준의 공분산 행렬 역행렬 계산을 반복하는 데 기인한 O(n³)의 계산 비용으로 인해 공간 생존 모델의 MCMC 추론 비용이 높아지는 문제를 해결하기 위해.
• 기존 모델과 통계적으로 동치이지만 대규모 데이터셋에 대해 계산 부담을 극적으로 줄이는 방법을 개발하기 위해.
• 기존 접근 방식에서 별도로 고려하고 비용이 많이 드는 잠재 필드의 공간 예측 문제를 동시에 해결하기 위해.
• 유사한 계산적 이점을 얻을 수 있도록 이 방법을 시공간 지구통계 모델로 확장하기 위해.
• 표준 MCMC 프레임워크를 최소한의 수정으로 사용하여 공간 생존 및 지구통계 모델에 대한 실용적인 베이지안 추론을 가능하게 하기 위해.

제안 방법

• 정규 격자 크기 m에 해당하는 보조 변수 Y를 도입하여 공간적으로 상관된 프레일티를 표현하고, 개인 수준의 프레일티를 대체한다.
• 격자 위에서 정적 가우시안 과정을 사용하여 잠재 필드를 모델링함으로써 빠른 푸리에 변환(FFT)을 통한 행렬 연산을 가능하게 한다.
• 개인의 프레일티가 가장 가까운 격점에 연결되는 계층적 구조를 사용하여 격자 기반 표현을 통한 효율적 계산을 가능하게 한다.
• 전체 n×n 공분산 행렬의 역행렬 계산을 FFT 기반 방법을 통해 O(m log m) 연산으로 대체함으로써 계산 복잡도를 감소시킨다.
• 보조 변수가 동일한 공간적 의존성을 유도하므로 원본 모델과 동일한 가능도 및 사후 분포를 유지한다.
• 격자 기반 잠재 필드를 활용하여 관측되지 않은 위치에서의 공간 예측을 자연스럽게 통합함으로써 별도의 예측 단계를 제거한다.

실험 결과

연구 질문

• RQ1 O(n³)의 계산 비용을 가지는 공간 생존 모델의 MCMC에서 통계 정확도를 유지하면서도 비용을 O(n)으로 줄일 수 있는가?
• RQ2 정규 격자 위의 보조 변수가 원본 모델의 사후 분포를 유지하면서도 더 빠른 계산을 가능하게 할 수 있는가?
• RQ3 이 방법은 기존 접근 방식에서 별도로 고려하고 비용이 많이 드는 잠재 필드의 공간 예측 문제를 동시에 해결할 수 있는가?
• RQ4 이 방법은 데이터셋 크기와 공간 해상도가 증가함에 따라 효율적으로 확장되는가?
• RQ5 이 방법은 유사한 계산적 이점으로 인해 시공간 지구통계 모델로도 확장 가능한가?

주요 결과

• 제안된 방법은 고정된 출력 격자 크기에서 MCMC 추론의 계산 비용을 O(n³)에서 O(n)으로 감소시켜 훨씬 큰 데이터셋 분석이 가능하게 한다.
• 공간 격자 해상도를 높이는 데 드는 비용은 O(m log m)로 스케일링되어 고해상도 공간 모델링을 실현 가능하게 한다.
• 관측되지 않은 위치에서의 잠재 필드의 공간 예측이 MCMC 프로세스에 자연스럽게 통합되어 별도의 계산 단계가 필요로 하지 않는다.
• 이 방법은 공간 생존 모델과 지구통계 모델 모두에 적용 가능하며, 공간적으로 상관된 랜덤 효과를 가진 포isson 및 가우시안 과정에 모두 적용 가능하다.
• 시공간 모델로의 확장도 가능하며, 반복당 O(n) 비용과 공간 해상도 증가 시 O(m log m) 비용, 시간 해상도 증가 시 O(T) 비용을 가진다.
• MCMC 제안의 다중 코어 병렬 처리로 8코어 머신에서 수용률이 99.9%로 향상되어 계산 시간이 약 40% 감소한다.