[논문 리뷰] Firefly Monte Carlo: Exact MCMC with Subsets of Data

Dougal Maclaurin, Ryan P. Adams|arXiv (Cornell University)|2014. 03. 22.

Markov Chains and Monte Carlo Methods참고 문헌 20인용 수 48

한 줄 요약

Firefly Monte Carlo (FlyMC)는 각 반복에서 데이터의 부분집합을 사용하여 대규모 데이터셋에서 효율적인 베이지안 추론을 가능하게 하는 정확한 마르코프 체인 몽테카를로 알고리즘입니다. 이 알고리즘은 가능도의 하한을 기반으로 데이터 포인트를 확률적으로 포함하거나 배제하는 이진 보조 변수를 도입하여 진정한 사후분포를 유지하면서도 기존 MCMC 대비 10배 이상의 속도 향상을 달성합니다.

ABSTRACT

Markov chain Monte Carlo (MCMC) is a popular and successful general-purpose tool for Bayesian inference. However, MCMC cannot be practically applied to large data sets because of the prohibitive cost of evaluating every likelihood term at every iteration. Here we present Firefly Monte Carlo (FlyMC) an auxiliary variable MCMC algorithm that only queries the likelihoods of a potentially small subset of the data at each iteration yet simulates from the exact posterior distribution, in contrast to recent proposals that are approximate even in the asymptotic limit. FlyMC is compatible with a wide variety of modern MCMC algorithms, and only requires a lower bound on the per-datum likelihood factors. In experiments, we find that FlyMC generates samples from the posterior more than an order of magnitude faster than regular MCMC, opening up MCMC methods to larger datasets than were previously considered feasible.

연구 동기 및 목표

• 대규모 데이터셋에서 표준 MCMC의 계산적 한계를 해결하기 위해, 각 반복에서 모든 가능도 항을 평가하는 것이 비용이 너무 많이 들기 때문이다.
• 각 반복에서 전체 데이터의 부분집합만을 사용하면서도 정확한 사후분포 추론을 유지하는 MCMC 방법을 개발하기 위해이다.
• 각 반복의 계산 비용을 줄임으로써 대규모 데이터셋에서 실용적인 베이지안 추론을 가능하게 하기 위해, 渐近적 편향을 도입하지 않기 위해이다.
• 다양한 MCMC 알고리즘과 호환되는 일반적인 프레임워크를 제공하기 위해, 각 데이터의 가능도 항에 대한 하한만 필요로 한다.

제안 방법

• 각 데이터 포인트 $ x_n $ 에 대해 이진 보조 변수 $ z_n \in \{0,1\} $ 를 도입하며, $ z_n = 1 $ 이면 해당 데이터 포인트가 사후분포 계산에 사용됨을 나타낸다.
• 보조 변수 $ z_n $ 의 조건부 분포를 가능도 $ L_n(\theta) $ 의 엄격히 양수인 하한 $ B_n(\theta) $ 를 기반으로 한 베르누이 분포로 정의하며, 성공 확률은 $ \frac{L_n(\theta) - B_n(\theta)}{L_n(\theta)} $ 이다.
• 진짜 전체 데이터 사후분포 $ p(\theta \mid \{x_n\}) $ 에 대해 마진널라이제이션되는 확장된 공동 사후분포 $ p(\theta, \{z_n\} \mid \{x_n\}) $ 를 구성한다.
• 메트로폴리스-해스팅스 또는 기타 MCMC 샘플러를 사용하여 $ \theta $ 와 $ \{z_n\} $ 을 함께 갱신하며, 제안 확률는 보조 변수에 의존한다.
• 데이터 병렬 전략을 활용하여 각 반복에서 $ z_n = 1 $ 인 경우에만 가능도를 평가함으로써 계산 비용을 극적으로 감소시킨다.
• 상태 공간이 $ N $ 개의 보조 변수로 확장되더라도, 각 전이의 계산 효율성이 높아서 혼합 속도가 빠르게 유지됨을 활용한다.

실험 결과

연구 질문

• RQ1 각 반복에서 부분집합만을 사용하면서도 정확한 MCMC 샘플링이 가능할 수 있는가?
• RQ2 어떤 조건에서 가능도 함수가 있어야 부분집합 기반 MCMC가 渐近적 편향 없이 효율적으로 작동할 수 있는가?
• RQ3 어떻게 보조 변수를 설계하여 진짜 사후분포를 유지하면서도 데이터 샘플링을 가능하게 할 수 있는가?
• RQ4 사후 정확도를 희생시키지 않고 MCMC의 계산 비용을 수십 배에서 수백 배로 줄일 수 있는가?
• RQ5 Wall-clock 시간과 수렴 속도 측면에서 FlyMC는 표준 MCMC보다 어떻게 비교되는가?

주요 결과

• FlyMC는 대규모 데이터셋에서 표준 MCMC보다 사후분포 샘플링 속도가 10배 이상 빠르며, 渐近적 편향이 없다.
• 보조 변수를 통해 $ \theta $ 에 대한 마진널 분포가 여전히 진짜 전체 데이터 사후분포로 유지됨을 보장함으로써 정확한 사후분포 추론을 유지한다.
• MNIST, CIFAR-10 및 유기 태양전지 데이터에서의 실험 결과, MAP로 튜닝된 하한을 사용한 FlyMC가 일반 MCMC보다 속도와 수렴 속도에서 뛰어난 성능을 보였다.
• 가능도 항에 대한 하한을 사용함으로써 알고리즘이 각 반복에서 많은 데이터 포인트의 평가를 생략할 수 있어, 평균적으로 단계당 가능도 평가 횟수가 감소한다.
• MAP 추정치를 사용해 하한을 설정한 튜닝된 FlyMC는 튜닝되지 않은 변형보다 성능이 뚜렷이 향상되었으며, 하한 품질의 중요성을 입증했다.
• 비록 $ N $ 개의 보조 변수로 상태 공간이 확장되었지만, 전이당 계산 효율성이 매우 높아 혼합 속도가 유지됨을 확인했다.