[논문 리뷰] Nonstationary, Nonparametric, Nonseparable Bayesian Spatio-Temporal Modeling Using Kernel Convolution of Order Based Dependent Dirichlet Process

Moumita Das, Sourabh Bhattacharya|arXiv (Cornell University)|2014. 05. 20.

Bayesian Methods and Mixture Models참고 문헌 38인용 수 5

한 줄 요약

이 논문은 순서 기반 종속 디리클레 프로세스의 커널 컨볼루션을 사용하여 복잡한 시공간 의존성을 포착하는 비정상성, 비모수적, 비분리성 베이지안 시공간 모델을 제안한다. 변수 차원 문제를 위해 전차원 변환 MCMC를 적용하고, 시뮬레이션 및 실제 데이터셋에서 Fuentes와 Reich(2013)보다 뛰어난 성능을 보이며, 급수 절단에 대한 엄밀한 오차 한계를 제공한다.

ABSTRACT

In this article, using kernel convolution of order based dependent Dirichlet process (Griffin and Steel (2006)) we construct a nonstationary, nonseparable, nonparametric space-time process, which, as we show, satisfies desirable properties, and includes the stationary, separable, parametric processes as special cases. We also investigate the smoothness properties of our proposed model. Since our model entails an infinite random series, for Bayesian model fitting purpose we must either truncate the series or more appropriately consider a random number of summands, which renders the model dimension a random variable. We attack the variable dimensionality problem using Transdimensional Transformation based Markov Chain Monte Carlo introduced by Das and Bhattacharya (2019b), which can update all the variables and also change dimensions in a single block using essentially a single random variable drawn from some arbitrary density defined on a relevant support. For the sake of completeness we also address the problem of truncating the infinite series by providing a uniform bound on the error incurred by truncating the infinite series. We illustrate the effectiveness of our model and methodologies on a simulated data set and demonstrate that our approach significantly outperforms that of Fuentes and Reich (2013) which is based on principles somewhat similar to ours. We also fit two real, spatial and spatio-temporal datasets with our approach and obtain quite encouraging results in both the cases.

연구 동기 및 목표

• 시공간 내에서 비정상성, 비분리성, 비모수적 의존성 구조를 포착할 수 있는 유연한 베이지안 시공간 모델을 개발하는 것.
• 비모수적 베이지안 모델에서 무한한 랜덤 급수 전개로 인해 발생하는 변수 차원 문제에 대응하는 것.
• 무한 급수의 절단에 대해 균일한 오차 한계를 제공하는 이론적으로 타당한 방법을 제시하는 것.
• 복잡한 시공간 의존성을 모델링하는 데 더 높은 유연성을 제공함으로써 기존의 Fuentes와 Reich(2013)의 접근 방식을 향상시키는 것.
• 모델의 효과성을 시뮬레이션된 데이터와 실제 세계의 공간 및 시공간 데이터셋에서 입증하는 것.

제안 방법

• 순서 기반 종속 디리클레 프로세스의 커널 컨볼루션을 사용하여 비정상성, 비분리성, 비모수적 시공간 과정을 구성하는 것.
• 성분 수가 자체적으로 랜덤 변수가 되는 랜덤 급수 표현을 사용하여 전차원 추론을 유도하는 것.
• 매개변수와 차원을 동시에 업데이트할 수 있도록 단일 블록 내에서 전차원 변환 기반 마르코프 체인 몬테카를로(TDT-MCMC)를 적용하는 것.
• 무한 급수 절단으로 인해 발생하는 오차에 대해 균일한 한계를 도출하여 이론적 신뢰성을 확보하는 것.
• MCMC 알고리즘에서 차원 변화 이동을 촉진하기 위해 임의의 밀도에서 추출한 단일 랜덤 변수를 활용하는 것.
• 종속 디리클레 프로세스를 통한 비모수적 베이지안 비분리성 통합을 통해 공간과 시간 간의 민감한 의존성 구조를 허용하는 것.

실험 결과

연구 질문

• RQ1 비정상성, 비모수적, 비분리성 베이지안 시공간 모델을 구성할 수 있는가? 이는 정상성 및 분리 가능한 파rametric 모델을 일반화할 수 있는가?
• RQ2 무한한 랜덤 급수로 인해 발생하는 변수 차원 문제를 사후 계산에서 효과적으로 다룰 수 있는가?
• RQ3 전차원 MCMC 방법을 시공간 과정에서 랜덤 차원을 가진 모델 탐색에 효과적으로 적용할 수 있는가?
• RQ4 이러한 모델에서 무한 급수 전개의 절단에 대해 이론적 오차 한계는 무엇인가?
• RQ5 제안된 모델이 Fuentes와 Reich(2013)와 같은 기존 접근 방식보다 복잡한 시공간 의존성을 더 잘 포착하는가?

주요 결과

• 제안된 모델은 비정상성과 비분리성 시공간 의존성을 성공적으로 포착하며, 정상성, 분리 가능성, 파rametric 모델을 특수 케이스로 포함할 수 있다.
• 전차원 변환 MCMC 방법은 매개변수와 차원을 단일 블록 내에서 효율적으로 동시에 업데이트할 수 있게 하여 혼합 및 수렴을 향상시킨다.
• 무한 급수 절단에 대한 균일한 오차 한계가 도출되어 유한한 절단을 실용적으로 적용할 때 이론적 신뢰성을 보장한다.
• 시뮬레이션 데이터에서, 모델은 Fuentes와 Reich(2013)보다 예측 정확도와 민감성 측면에서 뚜렷한 성능 향상을 보였다.
• 실제 두 개의 데이터셋—하나는 공간 데이터이고 다른 하나는 시공간 데이터—에 대해 모델은 유망한 결과를 도출하였으며, 강력한 경험적 성능을 입증하였다.
• 정상성이나 분리성 가정 없이도 복잡한 의존성 구조를 효과적으로 다룰 수 있어, 파rametric 모델에 대한 강력한 대안을 제공한다.