[논문 리뷰] Bayesian nonstationary Gaussian process modeling: the BayesNSGP package for R

Mark D. Risser, Daniel Turek|arXiv (Cornell University)|2019. 10. 30.

Gaussian Processes and Bayesian Inference인용 수 3

한 줄 요약

이 논문은 R을 위한 BayesNSGP 패키지를 소개하며, 현대적 우도 근사와 MCMC 샘플링을 사용하여 소규모에서 중간 규모의 공간 데이터셋에서 비정상성 가우시안 프로세스에 대한 완전한 베이지안 추론을 가능하게 한다. 이 방법은 불확실성 정량화 예측을 지원하며, 수백에서 수천 개의 위치를 가진 실제 공간 데이터에서 시장에 있는 대체 방법보다 뛰어난 성능을 보인다.

ABSTRACT

In spite of the diverse literature on nonstationary spatial modeling and approximate Gaussian process (GP) methods, there are no general approaches for conducting fully Bayesian inference for moderately sized nonstationary spatial data sets on a personal laptop. For statisticians and data scientists who wish to learn about spatially-referenced data and conduct posterior inference and prediction with appropriate uncertainty quantification, the lack of such approaches and corresponding software is a significant limitation. In this paper, we develop methodology for implementing formal Bayesian inference for a general class of nonstationary GPs. Our novel approach uses pre-existing frameworks for characterizing nonstationarity in a new way that is applicable for small to moderately sized data sets via modern GP likelihood approximations. Posterior sampling is implemented using flexible MCMC methods, with nonstationary posterior prediction conducted as a post-processing step. We demonstrate our novel methods on two data sets, ranging from several hundred to several thousand locations, and compare our methodology with related statistical methods that provide off-the-shelf software. All of our methods are implemented in the freely available BayesNSGP software package for R.

연구 동기 및 목표

• 개인용 노트북에서 비정상성 공간 가우시안 프로세스에 대한 일반 목적의 완전한 베이지안 추론 도구의 부족을 해결한다.
• 통계학자와 데이터 과학자들이 공간 기반 데이터에 대해 적절한 불확실성 정량화를 포함한 사후 추론과 예측을 수행할 수 있도록 한다.
• 현대적 근사 기법을 사용하여 비정상성 GP 모델링을 지원하는 유연하고 접근 가능한 소프트웨어 구현을 개발한다.
• 고급 비정상성 공간 모델링과 중간 규모 데이터셋에 대한 실용적 사용 가능성 사이의 격차를 메운다.
• 기존의 상용 제품 대비 유사하거나 우수한 성능을 보이며 확장성과 신뢰성을 제공하는 대안을 제공한다.

제안 방법

• 비정상성을 모델링하기 위한 기존 프레임워크를 활용하지만, 공식적인 베이지안 계층 구조 내에서 재구성한다.
• 수백에서 수천 개의 위치를 가진 데이터셋에서 효율적인 계산을 가능하게 하기 위해 현대적 가우시안 프로세스 우도 근사를 적용한다.
• 비정상성 GP 모델에 특화된 민감한 마르코프 체인 몬테카를로(MCMC) 방법을 사용하여 사후 샘플링을 구현한다.
• MCMC 샘플링 이후의 후처리 단계에서 비정상성 사후 예측을 수행하여 불확실성 정량화를 유지한다.
• 연구자와 실무자들이 접근성과 재현 가능성을 확보하기 위해 R 기반 구현을 활용한다.
• 모든 구성 요소를 R용 오픈소스 BayesNSGP 패키지로 통합하여 종단 간 완전한 베이지안 공간 분석을 지원한다.

실험 결과

연구 질문

• RQ1 표준 개인 컴퓨팅 하드웨어를 사용하여 중간 규모의 공간 데이터셋에서 비정상성 가우시안 프로세스에 대한 완전한 베이지안 추론을 효율적으로 수행할 수 있는가?
• RQ2 제안된 방법은 기존의 상용 통계 방법과 비교해 예측 정확도와 불확실성 정량화 측면에서 어떻게 성능을 내는가?
• RQ3 우도 근사와 MCMC의 새로운 활용 방식이 비정상성 GP 모델에서 확장 가능한 추론을 얼마나 잘 가능하게 하는가?
• RQ4 BayesNSGP 프레임워크는 다양한 공간 데이터 구조에서 신뢰할 수 있는 불확실성 정량화 예측을 지원할 수 있는가?
• RQ5 실제 공간 데이터 응용에서 제안된 접근 방식의 실용적 사용성과 계산 가능성은 어떠한가?

주요 결과

• BayesNSGP 패키지는 수백에서 수천 개의 공간 위치를 가진 데이터셋에서 비정상성 가우시안 프로세스에 대한 완전한 베이지안 추론을 가능하게 한다.
• MCMC 기반 사후 샘플링과 후처리 예측 단계를 통해 정확한 불확실성 정량화 예측을 달성한다.
• 기존의 상용 제품 대비 또는 동등한 성능을 보이며, 공식적인 불확실성 정량화를 제공한다.
• 현대적 우도 근사 기법은 모델의 유연성과 추론의 엄밀함을 희생시키지 않고도 효율적인 계산을 가능하게 한다.
• 소프트웨어는 R 패키지로 무료로 제공되어 연구자와 데이터 과학자들이 접근성과 재현 가능성을 높일 수 있다.
• 이 프레임워크는 표준 개인용 랩탑에서 실생활 공간 데이터 분석에 실용적으로 적용 가능한 것으로 입증되었다.