[논문 리뷰] New frontiers in Bayesian modeling using the INLA package in R

Janet van Niekerk, Haakon Bakka외 2명|arXiv (Cornell University)|2019. 07. 24.

Gaussian Processes and Bayesian Inference참고 문헌 39인용 수 14

한 줄 요약

이 논문은 R의 INLA 패키지에 대한 새로운 발전을 제시하며, 공동 종속-장기 모델, 비분리 공간-시간 모델, 그리고 PARDISO 라이브러리를 통한 고성능 컴퓨팅을 포함한 복잡한 모델에서 효율적인 계산을 통해 베이지안 추론을 향상시킵니다. 이 방법은 희소 행렬 알고리즘과 SPDE 방법을 활용하여 잠재 가우시안 모델에서 빠르고 정확한 추론을 가능하게 하며, 계산 시간을 크게 줄이면서도 높은 정확도를 유지합니다.

ABSTRACT

The INLA package provides a tool for computationally efficient Bayesian modeling and inference for various widely used models, more formally the class of latent Gaussian models. It is a non-sampling based framework which provides approximate results for Bayesian inference, using sparse matrices. The swift uptake of this framework for Bayesian modeling is rooted in the computational efficiency of the approach and catalyzed by the demand presented by the big data era. In this paper, we present new developments within the INLA package with the aim to provide a computationally efficient mechanism for the Bayesian inference of relevant challenging situations.

연구 동기 및 목표

• 공동 장기-생존, 경쟁 위험, 다상태 모델과 함께 구조적 난수 효과를 포함한 복잡한 생존 모델을 지원하기 위해 INLA 패키지를 확장하는 것.
• 물리적 확산 과정을 기반으로 한 확률적 편미분 방정식(SPDE)을 바탕으로 한 새로운 비분리 공간-시간 모델 클래스를 개발하는 것.
• PARDISO 라이브러리를 사용하여 고성능 컴퓨팅 기능을 INLA에 통합하여 희소 행렬 분해 및 부분 역행렬 계산을 효율적으로 수행하는 것.
• 다핵 아키텍처를 최적화하여 대규모 베이지안 추론에서 발생하는 계산 병목 현상을 해결하는 것.
• 빅데이터 시대의 다양한 과학 분야에서 베이지안 모델링을 위한 최첨단이고 확장 가능한 도구로 INLA를 유지하는 것.

제안 방법

• INLA 방법론은 메트로폴리스-해스팅스 기반의 계산 비용이 큰 MCMC 샘플링을 피하기 위해 라플라스 근사법을 사용하여 잠재 가우시안 모델의 공동 사후분포를 근사한다.
• SPDE 방법은 확률적 편미분 방정식을 통해 가우시안 마르코프 무작위 필드를 모델링하여 공간 및 공간-시간 모델링의 유연성과 효율성을 제공한다.
• 비분리 공간-시간 모델은 특정한 SPDE를 물리적 확산 과정에 기반하여 정의하고, 유한요소 방법을 통해 해를 구한다.
• 패키지는 병렬 희소 행렬 분해 및 부분 역행렬 계산을 위해 PARDISO 라이브러리를 통합하여 다핵 시스템에서의 성능을 향상시킨다.
• 공동 모델은 공통 난수 효과를 통해 장기 및 생존 결과의 가능도를 조합하여 다중 종속 변수에 대한 동시에 추론을 가능하게 한다.
• 초모수에는 사전분포를 할당하고, 해석적 근사법과 희소 정밀도 행렬을 사용하여 사후 마진 분포를 효율적으로 계산한다.

실험 결과

연구 질문

• RQ1 공통 난수 효과를 가진 장기 및 생존 결과의 공동 모델링을 위해 INLA 패키지를 어떻게 확장할 수 있는가?
• RQ2 계산 비용이 적은 베이지안 프레임워크를 통해 비분리 공간-시간 의존성을 가장 효과적으로 모형화하는 방법은 무엇인가?
• RQ3 PARDISO 라이브러리의 통합이 대규모 모델에서 INLA의 희소 행렬 연산 성능을 크게 향상시킬 수 있는가?
• RQ4 데이터 크기와 코어 수 증가에 따라 새로운 INLA의 계산 효율성은 어떻게 변화하는가?
• RQ5 기존 공분산 기반 접근 방식에 비해 SPDE 기반 비분리 공간-시간 모델을 사용할 경우 실용적 의미는 무엇인가?

주요 결과

• INLA에 구현된 공동 장기-생존 모델은 공통 난수 효과를 가진 다중 종속 변수에 대해 효율적이고 정확한 추론을 가능하게 하며, 임상 연구에서 인과 추론을 지원한다.
• SPDE 기반 비분리 공간-시간 모델은 기존 공분산 기반 방법에 비해 계산 비용이 적고 물리적 해석이 가능한 대안을 제공한다.
• INLA에 PARDISO 통합으로 인해 코レス키 분해 및 부분 역행렬 계산의 계산 시간이 감소하였으며, 다핵 시스템에서 뚜렷한 성능 향상이 관찰되었다.
• 테스트된 3차원 라플라스 행렬 기준으로 병렬화 성능은 16코어를 초과하면 포화 상태에 도달하여 수익 감소 현상이 나타났다.
• 새로운 INLA 확장 기능은 계산 시간을 극적으로 줄이면서도 높은 정확도를 유지하여, 빅데이터 응용 분야에서 복잡한 베이지안 모델을 실현 가능하게 한다.