[논문 리뷰] Tempering by Subsampling

Jan-Willem van de Meent, Brooks Paige외 1명|arXiv (Cornell University)|2014. 01. 28.

Markov Chains and Monte Carlo Methods참고 문헌 27인용 수 6

한 줄 요약

이 논문은 데이터를 무작위로 다시 샘플링하지 않고 반복적으로 부분 샘플링을 사용하는 온도 조절 기법을 제안한다. 이는 베이지안 모델에서 마르코프 체인 몬테카를로(MCMC) 샘플링을 계산적으로 효율적으로 수행하는 방법으로, 전체 데이터를 사용하지 않고 부분 데이터를 반복적으로 사용함으로써 계산 비용을 절감한다. 기존 샘플러 대비 단위 계산 당 효과적 표본 크기를 향상시키며, 부분 샘플링된 온도 조절 전이(STT)가 고차원 정규분포 및 가우시안 프로세스 모델에서 다른 방법들보다 뛰어난 성능을 보인다.

ABSTRACT

In this paper we demonstrate that tempering Markov chain Monte Carlo samplers for Bayesian models by recursively subsampling observations without replacement can improve the performance of baseline samplers in terms of effective sample size per computation. We present two tempering by subsampling algorithms, subsampled parallel tempering and subsampled tempered transitions. We provide an asymptotic analysis of the computational cost of tempering by subsampling, verify that tempering by subsampling costs less than traditional tempering, and demonstrate both algorithms on Bayesian approaches to learning the mean of a high dimensional multivariate Normal and estimating Gaussian process hyperparameters.

연구 동기 및 목표

• 전체 데이터를 사용하는 기존 방법에 비해 계산 비용이 높은 전통적 온도 조절 방법의 문제를 해결하면서, 베이지안 추론에서 온도 조절 MCMC 방법의 계산 비용을 줄이고, 샘플링 효율성을 유지하거나 향상시키는 것.
• 데이터 크기가 커질수록 전체 우도 평가가 필요한 전통적 온도 조절 방법의 계산 부담이 급격히 증가하는 문제를 해결하는 것.
• 데이터 부분 샘플링을 온도 조절의 형태로 사용하는 두 가지 새로운 알고리즘—부분 샘플링 병렬 온도 조절(SPT)과 부분 샘플링 온도 조절 전이(STT)—를 개발하고 분석하는 것.
• 부분 샘플링을 통한 온도 조절이 기존 샘플러 대비 단위 계산 당 더 높은 효과적 표본 크기를 달성하는지 경험적으로 검증하는 것.
• 이 방법의 계산 효율성과 수렴 특성에 대한 이론적 및 경험적 근거를 제공하는 것.

제안 방법

• 관측치를 반복적으로 무작위로 선택하지 않고 부분 샘플링하여 인위적인 온도 유사 상태를 생성함으로써, 데이터에 대한 가열 및 냉각 과정을 효과적으로 시뮬레이션한다.
• 부분 샘플링 병렬 온도 조절(SPT)은 서로 다른 부분 데이터 세트에 대응하는 여러 체인을 유지하며, 체인 간 교환 제안을 통해 혼합성을 향상시킨다.
• 부분 샘플링 온도 조절 전이(STT)는 결정적 온도 단계를 사용하고, 부분 데이터를 정방향 및 역방향으로 스캔하며, 메트로폴리스-하스팅스 비율을 통해 전이를 수락한다.
• 핵심 아이디어는 우도 계산 비용을 더 작은 데이터 부분집합을 사용함으로써 낮추어, 표본당 비용을 줄이면서도 복잡한 사후 분포 탐색 능력을 유지하는 것이다.
• 이 방법은 일반적인 MCMC 샘플러(HMC, MH, 깁스 등)를 감싸는 외부 루프로 구현되며, 우도가 관측 가능한 데이터 세트에 조건부로 정의되어 있음을 요구한다.
• 점점 증가하는 데이터 크기에서의 점근적 런타임 분석을 통해, 부분 샘플링이 전체 데이터 온도 조절 대비 계산 비용을 줄임을 확인하였으며, 특히 데이터 크기가 클수록 효과가 뚜렷하다.

실험 결과

연구 질문

• RQ1 온도 조절 중 데이터를 부분 샘플링함으로써 계산 비용을 줄일 수 있을까? 이는 샘플링 효율성 유지 또는 향상과 함께 가능할까?
• RQ2 부분 샘플링을 통한 온도 조절이 기존 샘플러 대비 단위 계산 당 더 높은 효과적 표본 크기를 제공할까?
• RQ3 데이터 크기와 매개변수 차원 수에 따라 부분 샘플링 온도 조절의 성능은 어떻게 변할까?
• RQ4 부분 샘플을 재샘플링하여 베이즈 요인의 불편 추정량을 구하는 데 부분 샘플링 온도 조절을 사용할 수 있을까?
• RQ5 다른 내부 샘플러(HMC 대비 MH 등) 간에 수렴 행동, 특히 효과적 표본 크기 측면에서 어떻게 비교될까?

주요 결과

• 모든 테스트 모델과 매개변수 차원에서 부분 샘플링 온도 조절 전이(STT)가 가장 높은 효과적 표본 크기(초당)를 확보하였다.
• 50차원 다변량 정규분포 모델에서, STT는 MH 내부 샘플러를 사용해 0.0579개의 효과적 표본을 초당 확보하였으며, 모든 다른 방법들을 능가하였다.
• 100차원 정규분포 모델에서 HMC를 사용한 경우, STT는 0.0145개의 효과적 표본을 초당 확보하였으며, 다음으로 좋은 방법보다 뚜렷한 격차를 보였다.
• 가우시안 프로세스 하이퍼파rameter 모델에서는, 모든 데이터 크기와 차원에서 STT가 다른 모든 방법보다 뛰어난 성능을 보였으며, 모델 복잡성에 대한 강건성을 입증하였다.
• 데이터 크기가 증가함에 따라, 부분 샘플링 온도 조절과 기존 방법 간의 성능 격차가 더욱 벌어졌으며, 이는 확장성의 증거가 되었다.
• 기존 샘플러가 혼합성이 낮고 효과적 표본 크기가 낮아 어려움을 겪는 고차원 설정에서도 이 방법은 뛰어난 성능을 유지하였다.