[논문 리뷰] Scaling up Data Augmentation MCMC via Calibration

Leo L. Duan, James E. Johndrow외 1명|arXiv (Cornell University)|2017. 03. 09.

Bayesian Methods and Mixture Models인용 수 12

한 줄 요약

이 논문은 대규모 샘플에서의 베이지안 추론에서 표준 데이터 보완 MCMC가 조건부 사후분포의 잘못된 校정으로 인해 높은 자기상관을 유발하고 혼합 속도가 느려지는 문제를 해결하기 위해 校정된 데이터 보완 MCMC(CDA-MCMC)를 제안한다. 보조 변수의 분산을 적응적 스케일링 파라미터 $ r $ 과 위치 이동 $ b $ 를 통해 조정하고, 미트로폴리스-하스팅스 보정을 사용함으로써 CDA-MCMC는 자기상관을 크게 감소시키고 효과적 샘플 크기를 높이며, probit, 로지스틱, 포아송 로그선형 모형에서 정류된 사후분포를 유지하면서도 계산 효율성을 크게 향상시킨다.

ABSTRACT

There has been considerable interest in making Bayesian inference more scalable. In big data settings, most literature focuses on reducing the computing time per iteration, with less focused on reducing the number of iterations needed in Markov chain Monte Carlo (MCMC). This article focuses on data augmentation MCMC (DA-MCMC), a widely used technique. DA-MCMC samples tend to become highly autocorrelated in large data samples, due to a miscalibration problem in which conditional posterior distributions given augmented data are too concentrated. This makes it necessary to collect very long MCMC paths to obtain acceptably low MC error. To combat this inefficiency, we propose a family of calibrated data augmentation algorithms, which appropriately adjust the variance of conditional posterior distributions. A Metropolis-Hastings step is used to eliminate bias in the stationary distribution of the resulting sampler. Compared to existing alternatives, this approach can dramatically reduce MC error by reducing autocorrelation and increasing the effective number of DA-MCMC samples per computing time. The approach is simple and applicable to a broad variety of existing data augmentation algorithms, and we focus on three popular models: probit, logistic and Poisson log-linear. Dramatic gains in computational efficiency are shown in applications.

연구 동기 및 목표

• 대규모 데이터셋에서 데이터 보완 MCMC(DA-MCMC)의 느린 혼합 문제를 해결하기 위해, 높은 자기상관으로 인해 효과적 샘플 크기가 감소하고 계산 비용이 증가하는 문제를 다루는 것.
• 표본 수 $ n $ 이 증가함에 따라 조건부 사후분포가 과도하게 집중되는 DA-MCMC의 잘못된 校정 문제를 해결하기 위한 것.
• 조건부 사후분포의 분산을 보조 파라미터 $ r $ 과 $ b $ 를 통해 조정함으로써, 사후분포 폭과 일치하는 단계 크기 일관성을 확보하는 일반적이고 확장 가능한 프레임워크를 개발하는 것.
• 보정된 제안 분포로 인한 편향을 보완하기 위해 미트로폴리스-하스팅스 보정을 유지함으로써 정확한 사후분포를 유지하면서도 혼합 속도와 단위 시간당 효과적 샘플 크기를 크게 향상시키는 것.
• probit, 로지스틱, 포아송 로그선형 회귀와 같은 핵심 모형에서 광범위한 적용성과 계산 효율성 향상을 입증하는 것.

제안 방법

• 데이터 보완 체계에서 잠재 변수 $ z_i $ 의 분산을 조정하기 위해 보조 파라미터 $ r_i $ 와 $ b_i $ 를 도입하여 $ \theta $ 의 조건부 분산을 조정한다.
• 전체 조건부 분포 $ \theta $ 를 $ R = \text{diag}(r_1, \dots, r_n) $ 에 의존하도록 수정하여 $ \text{var}(\theta|z) \propto (X^T R^{-1} X)^{-1} $ 가 되도록 하여 단계 크기 제어를 가능하게 한다.
• 교정된 제안 분포로 인한 편향을 보완하기 위해, 정적분포가 진짜 사후분포를 유지하도록 하는 데트로폴리스-하스팅스 단계를 사용한다.
• 조건부 분산이 표본 수 $ n $ 과 적절하게 스케일링되도록 $ r_i $ 와 $ b_i $ 를 조정하며, 예를 들어 $ r \approx n / \log n $ 와 같이 설정하여 고사후확률 영역의 폭과 일치시킨다.
• probit, 로지스틱, 포아송 로그선형 모형에 대해 보조 데이터의 우도를 $ r_i $ 와 $ b_i $ 를 포함하도록 재정의함으로써 공액성을 유지하면서 혼합 속도를 향상시킨다.
• 이론적 분석과 실증적 검증을 통해, 校정된 샘플러가 표준 DA-MCMC보다 더 높은 효과적 샘플 크기와 낮은 자기상관을 달성함을 보여준다.

실험 결과

연구 질문

• RQ1 표본 수 $ n \to \infty $ 일 때 DA-MCMC의 조건부 사후분포의 잘못된 校정이 어떻게 자기상관을 증가시키고 혼합을 악화시키는가?
• RQ2 데이터 보완에서 잠재 변수의 분산을 조정함으로써 대규모 샘플에서의 베이지안 추론에서 MCMC 샘플러의 혼합 속도를 향상시킬 수 있는가?
• RQ3 보조 분산 파라미터 $ r $ 과 위치 이동 $ b $ 의 최적 스케일링은 무엇이며, 사후분포 폭과 일치시키고 효과적 샘플 크기를 향상시키는 데 기여하는가?
• RQ4 교정된 MCMC 샘플러는 정확한 사후분포를 유지하면서도 상당히 빠른 수렴 속도와 낮은 몬테카를로 오차를 달성할 수 있는가?
• RQ5 실제 모형인 probit, 로지스틱, 포아송 회귀에서 제안된 校정된 알고리즘이 표준 DA-MCMC 및 기타 가속화 방법보다 성능 면에서 어떻게 비교되는가?

주요 결과

• 교정된 DA-MCMC(CDA-MCMC) 알고리즘은 특히 큰 $ n $ 에서 표준 DA-MCMC에 비해 자기상관을 크게 감소시키며, ACF 그래프에서 더 빠른 감쇠를 보인다.
• $ n = 10^4 $ 일 때 $ r \approx n / \log n \approx 1000 $ 으로 설정하면 최적의 혼합이 달성되며, $ r $ 를 5000으로 더 높여도 추가적인 이득이 없다.
• 미트로폴리스-하스팅스 보정 없이 사용할 경우 사후밀도 추정치는 $ r $ 에 따라 달라지지만, 보정이 있으면 모든 샘플러가 동일한 사후밀도 추정치를 생성함으로써 편향 없는 샘플링임을 확인한다.
• M-H 수락률은 $ r = 10 $ 과 $ r = 100 $ 에서 약 1.0에 가까운 반면, $ r = 1000 $ 에서는 약 0.6으로 떨어지고, $ r = 5000 $ 에서는 약 0.2로 감소하여 최적 $ r $ 이후에는 수익 감소가 나타남을 시사한다.
• 효과적 샘플 크기를 단위 시간당 크게 증가시킴으로써 계산 효율성에 뚜렷한 향상을 이룬다. 이는 긴 MCMC 체인의 필요성을 줄인다.
• 이 방법은 probit, 로지스틱, 포아송 로그선형 모형에 광범위하게 적용 가능하며, 세 모형 모두에서 혼합 속도와 효율성 향상이 일관되게 관찰된다.