[논문 리뷰] Asymptotically Exact, Embarrassingly Parallel MCMC

Willie Neiswanger, Chong Wang외 1명|arXiv (Cornell University)|2013. 11. 19.

Markov Chains and Monte Carlo Methods참고 문헌 23인용 수 194

한 줄 요약

이 논문은 데이터를 여러 머신에 분할하여, 샘플링 중에는 머신 간 통신이 전혀 필요 없는, 뚱뚱한 평행성(parallelism)을 가진 마르코프 체인 몬테카를로(MCMC) 방법을 제안한다. 이 방법은 하위사후분포 샘플을 파arametric, 비모수적 또는 반모수적 밀도 곱 추정을 통해 조합함으로써 전체 데이터 사후분포에서 점차적으로 정확한 샘플을 생성하며, 이는 대규모 데이터 환경에서 번진 시간과 샘플링 속도를 크게 향상시킨다.

ABSTRACT

Communication costs, resulting from synchronization requirements during learning, can greatly slow down many parallel machine learning algorithms. In this paper, we present a parallel Markov chain Monte Carlo (MCMC) algorithm in which subsets of data are processed independently, with very little communication. First, we arbitrarily partition data onto multiple machines. Then, on each machine, any classical MCMC method (e.g., Gibbs sampling) may be used to draw samples from a posterior distribution given the data subset. Finally, the samples from each machine are combined to form samples from the full posterior. This embarrassingly parallel algorithm allows each machine to act independently on a subset of the data (without communication) until the final combination stage. We prove that our algorithm generates asymptotically exact samples and empirically demonstrate its ability to parallelize burn-in and sampling in several models.

연구 동기 및 목표

• 기존의 분산 데이터 환경에서의 전통적 병렬 MCMC의 높은 통신 및 계산 비용을 해결하기 위해.
• 단일 체인 MCMC에 비해 번진 시간과 샘플링 단계를 모두 병렬화하면서도 점차적 정확성의 손실 없이 수행하기 위해.
• 하위사후분포 샘플을 전체 데이터 사후분포 샘플로 변환하는 후처리 조합 절차를 개발하기 위해.
• 기존의 MCMC 소프트웨어 및 프레임워크(예: MapReduce)와의 호환성을 확보하기 위해.
• 다양한 조합 전략 하에서 점차적 정확성에 대한 이론적 보장을 입증하기 위해.

제안 방법

• 전체 데이터셋을 M개의 상호배타적인 부분집합으로 나누고, 각 부분집합에서 독립적인 MCMC 샘플링을 수행하여 하위사후분포 샘플을 생성한다.
• 하위사후분포 밀도를 p_m(θ) ∝ p(θ) * p(x_{nm}|θ)^(1/M)로 정의하며, 여기서 x_{nm}은 m번째 데이터 부분집합이다.
• 파라미터적, 비모수적 또는 반모수적 추정을 사용하여 하위사후분포 샘플을 조합하여 전체 사후분포 밀도 곱의 추정치를 산출한다.
• 파라미터적 조합의 경우, 하위사후분포 샘플에 다변량 정규분포를 적합하고 정밀도 가중 평균 및 공분산를 통해 곱을 계산한다.
• 비모수적 조합의 경우, 커널 밀도 추정을 사용하여 하위사후분포 밀도의 곱을 근사한다.
• 반모수적 조합의 경우, 파라미터적 및 비모수적 구성요소를 조합하여 정확성과 확장성의 균형을 이룬다.

실험 결과

연구 질문

• RQ1 최소한의 통신으로 데이터 분할 간에 MCMC 샘플링을 효과적으로 병렬화하면서도 점차적 정확성을 유지할 수 있는가?
• RQ2 파라미터적, 비모수적, 반모수적 등 다양한 밀도 곱 추정 전략이 조합된 사후분포 샘플의 정확성과 수렴에 어떤 영향을 미치는가?
• RQ3 제안된 방법은 대규모 환경에서 단일 체인 MCMC에 비해 번진 시간을 단축하고 샘플링 속도를 높이는가?
• RQ4 사후분포의 차원 수 증가 및 다중모드성에 따라 이 방법은 어떻게 스케일링되는가?
• RQ5 이 방법은 MapReduce 스타일의 분산 컴퓨팅 프레임워크에서 효율적으로 구현될 수 있는가?

주요 결과

• 파라미터적 조합 방법이 차원 수가 높은 시뮬레이션 데이터에서 가장 빠른 수렴 속도와 우수한 확장성을 보였으며, 비모수적 및 반모수적 방법보다 뛰어난 성능을 보였다.
• 베이지안 로지스틱 회귀에서, M=50개의 분할로 나누어진 병렬 방법은 단일 체인 MCMC보다 최대 10배 빠르게 높은 분류 정확도를 달성했다.
• 다중모드 사후분포(예: 정규분포 혼합 모델)의 경우, 파라미터적 및 subpostAvg 방법은 다중모드성을 제대로 반영하지 못하는 편향된 샘플을 생성했지만, 비모수적 및 반모수적 방법은 진짜 사후분포를 정확히 복원했다.
• 계층적 히스토그램 포isson-감마 모델에서, 제안된 조합 방법은 subpostAvg, subpostPool 및 전체 체인 방법보다 번진 시간을 단축하고 낮은 사후오차로 수렴하는 데에 빠르게 성공했다.
• 비모수적 및 반모수적 조합 절차는 점차적으로 정확한 샘플을 생성하였으며, 하위사후분포 샘플 수가 증가함에 따라 오차가 0으로 수렴했다.
• 실제 응용 분야에서도 실용성을 입증하였으며, 숲의 커버 유형 예측 등에서 측정 가능한 속도 향상과 정확도 유지가 이루어졌다.