[논문 리뷰] Bayesian Computing with INLA: A Review

Håvard Rue, Andrea Riebler외 4명|arXiv (Cornell University)|2016. 04. 04.

Statistical Methods and Bayesian Inference참고 문헌 71인용 수 6

한 줄 요약

이 논문은 잠재 가우시안 모형(LGM)에서 빠르고 정확한 베이지안 추론을 위한 통합 내재 라플라스 근사(INLA) 방법을 검토한다. 이는 중첩 라플라스 근사와 희소 행렬 계산을 활용한다. INLA는 MCMC보다 수개 차수 빠르면서도 높은 정확도를 유지하는 결정론적, 거의 정확한 사후 분포 근사를 제공하여 적용 베이지안 통계에 매우 적합하다.

ABSTRACT

The key operation in Bayesian inference, is to compute high-dimensional integrals. An old approximate technique is the Laplace method or approximation, which dates back to Pierre- Simon Laplace (1774). This simple idea approximates the integrand with a second order Taylor expansion around the mode and computes the integral analytically. By developing a nested version of this classical idea, combined with modern numerical techniques for sparse matrices, we obtain the approach of Integrated Nested Laplace Approximations (INLA) to do approximate Bayesian inference for latent Gaussian models (LGMs). LGMs represent an important model-abstraction for Bayesian inference and include a large proportion of the statistical models used today. In this review, we will discuss the reasons for the success of the INLA-approach, the R-INLA package, why it is so accurate, why the approximations are very quick to compute and why LGMs make such a useful concept for Bayesian computing.

연구 동기 및 목표

• 잠재 가우시안 모형(LGM)에서 MCMC의 스케일러블하고 결정론적인 대안으로 INLA를 제시하기 위해.
• INLA가 근사임에도 불구하고 실무에서 MCMC보다 빠르고 정확한 이유를 설명하기 위해.
• 효율적 계산을 가능하게 하는 희소 행렬 기법과 중첩 라플라스 근사의 역할을 부각하기 위해.
• epidemiology, 생태학, 유전학, 환경 과학 분야의 실제 사례를 통해 INLA의 광범위한 적용 가능성을 보여주기 위해.
• 응용 통계에서 반복적인 모형 구축을 지원하는 실용적이고 사용자 友好的인 도구로 INLA를 홍보하기 위해.

제안 방법

• LGM의 베이지안 추론에서 고차원 적분을 근사하기 위해 중첩 라플라스 근사를 사용한다.
• 사후 분포의 최대값 주변에서 두 번째 차수 테일러 전개를 적용하여 적분을 해석적으로 계산한다.
• LGM에서 발생하는 크고 희소한 정밀도 행렬을 효율적으로 처리하기 위해 희소 행렬 알고리즘을 적용한다.
• 잠재 가우시안 효과와 초모수의 사후 분포에 대해 결정론적 근사를 구성한다.
• 하이퍼모수에 대해 수치 적분을 사용하면서도 공동 사후 분포의 최대값 조건 하에 통합한다.
• 실제 데이터에 INLA를 적용하기 위한 사용자 友好的 인터페이스를 제공하기 위해 R-INLA 패키지를 활용한다.

실험 결과

연구 질문

• RQ1 왜 INLA는 MCMC보다 훨씬 빠르면서도 높은 정확도를 유지할 수 있는가?
• RQ2 중첩 라플라스 근사와 희소 행렬 기법은 LGM에서 어떻게 효율적 계산을 가능하게 하는가?
• RQ3 어떤 유형의 통계 모형이 LGM 프레임워크에 속하며, 왜 이 클래스가 그렇게 광범위하게 적용 가능한가?
• RQ4 INLA는 응용 통계에서 반복적인 모형 구축 과정을 어떻게 지원하는가?
• RQ5 INLA는 결측치가 있는 모형이나 복잡한 공간 점 과정과 같은 다른 모형과 어떻게 확장하거나 통합할 수 있는가?

주요 결과

• INLA는 MCMC보다 수개 차수 빠른 계산 시간으로 LGM에 대해 거의 정확한 사후 분포 근사를 제공한다.
• 중첩 라플라스 근사와 효율적인 희소 행렬 해법을 조합함으로써 높은 정확도를 달성한다.
• R-INLA는 질병 맵핑, 환경 건강, 유전학, 생태학 등에서 문서화된 사용 사례를 바탕으로 응용 과학 분야에서 널리 채택된 도구가 되었다.
• INLA는 벌점 복잡성(PC) 사전 분포를 통해 기본 사전 분포를 구성할 수 있어 강건하고 해석 가능한 모형 사양을 가능하게 한다.
• 공간 모형, 시공간 모형, 계층 모형과 같은 복잡한 모형에서도 실용적인 베이지안 추론을 가능하게 한다.
• INLA는 민감도 분석과 모형 점검(예: 사전 민감도 테스트 포함)을 지원하며, 네트워크 메타분석 및 자기회귀 과정과 같은 고급 모형을 지원한다.