[논문 리뷰] Variational consensus Monte Carlo

Maxim Rabinovich, Elaine Angelino외 1명|arXiv (Cornell University)|2015. 06. 09.

Gaussian Processes and Bayesian Inference참고 문헌 26인용 수 15

한 줄 요약

이 논문은 표준 공통 몽테 카를로보다 사후 분포 근사치를 향상시키기 위해 집계 함수를 최적화하는 데이터 병렬 베이지안 추론 방법인 변분 공통 몽테 카를로(VCMC)를 소개한다. 집계를 이완된 블록별 볼록이 아닌 목표 함수를 가진 변분 추론 문제로 공식화함으로써, VCMC는 공통 몽테 카를로 대비 사후 추정 오차를 최대 92%까지 감소시키며, 중간 수준의 최적화 오버헤드와 대규모 데이터셋에서 거의 이상적인 속도 향상을 달성한다.

ABSTRACT

Practitioners of Bayesian statistics have long depended on Markov chain Monte Carlo (MCMC) to obtain samples from intractable posterior distributions. Unfortunately, MCMC algorithms are typically serial, and do not scale to the large datasets typical of modern machine learning. The recently proposed consensus Monte Carlo algorithm removes this limitation by partitioning the data and drawing samples conditional on each partition in parallel (Scott et al, 2013). A fixed aggregation function then combines these samples, yielding approximate posterior samples. We introduce variational consensus Monte Carlo (VCMC), a variational Bayes algorithm that optimizes over aggregation functions to obtain samples from a distribution that better approximates the target. The resulting objective contains an intractable entropy term; we therefore derive a relaxation of the objective and show that the relaxed problem is blockwise concave under mild conditions. We illustrate the advantages of our algorithm on three inference tasks from the literature, demonstrating both the superior quality of the posterior approximation and the moderate overhead of the optimization step. Our algorithm achieves a relative error reduction (measured against serial MCMC) of up to 39% compared to consensus Monte Carlo on the task of estimating 300-dimensional probit regression parameter expectations; similarly, it achieves an error reduction of 92% on the task of estimating cluster comembership probabilities in a Gaussian mixture model with 8 components in 8 dimensions. Furthermore, these gains come at moderate cost compared to the runtime of serial MCMC, achieving near-ideal speedup in some instances.

연구 동기 및 목표

• 복잡하고 고차원적인 사후 분포를 근사할 때 공통 몽테 카를로의 최적화되지 않은 집계 함수로 인한 한계를 해결하기 위해.
• 단순 평균화를 초월하여 구조 인식형 적응형 집계를 가능하게 하는 확장 가능한 데이터 병렬 MCMC 프레임워크를 개발하기 위해.
• 집계 선택을 변분 베이즈 문제로 공식화하여, 다각도적이고 비선형적인 함수에 대한 최적화를 가능하게 하기 위해.
• 계산 효율성을 유지하면서도 순차적 MCMC에 비해 사후 분포 근사 오차를 줄이기 위해.
• 예를 들어, 정의된 행렬, 군집 중심 등과 같은 구조적 추론 문제를 위한 맞춤형 집계 함수를 통해 지원하기 위해.

제안 방법

• VCMC는 하위사후 표본의 집계를 변분 베이즈 문제로 공식화하여, 진정한 사후 분포에서의 발산을 최소화하는 결정론적 집계 함수를 최적화한다.
• 비가역적인 변분 목표 함수를 이완하여, 온건한 조건 하에서 블록별로 볼록이 되는 형태로 만들며, 이는 효율적인 최적화를 가능하게 한다.
• 각 파artition 수준의 매개변수들이 조건부로 독립적이며, 학습된 함수 F를 통해 전역 매개변수로 결정적으로 매핑되는 공동 모델을 사용한다.
• 이 프레임워크는 공분산 행렬이나 군집 할당에 대한 제약 조건을 유지하는 비선형 및 구조적 집계 함수를 지원한다.
• 표본 단위 집계를 허용함으로써, 최소한의 통신으로 데이터 파artition 간에 효율적인 병렬 샘플링을 가능하게 한다.
• 최적화 단계는 작은 배치의 표본을 사용하는 확률적 경사 하강법을 사용하며, 분산 및 비동기 실행과도 호환된다.

실험 결과

연구 질문

• RQ1 공통 몽테 카를로의 집계 함수를 어떻게 최적화하여 진정한 사후 분포의 근사치를 향상시킬 수 있는가?
• RQ2 변분 추론을 사용하여 매개변수 제약 조건(예: 정의된 행렬성)을 존중하는 구조적 집계 함수를 학습할 수 있는가?
• RQ3 집계 함수 최적화에서 근사 정확도와 계산 비용 사이의 상호 교환 관계는 어떠한가?
• RQ4 VCMC는 공통 몽테 카를로 및 순차적 MCMC에 비해 사후 추정 오차와 속도 향상 측면에서 어떻게 비교되는가?
• RQ5 대규모 고차원 모델에서 VCMC는 높은 사후 정확도를 유지하면서 거의 이상적인 선형 속도 향상을 달성할 수 있는가?

주요 결과

• 300차원 프로빗 회귀 모델에서 VCMC는 공통 몽테 카를로 대비 매개변수 기대치 추정의 상대 오차를 최대 39%까지 감소시켰다.
• 8차원에서 8개 성분을 가진 가우시안 믹스처 모델에서 VCMC는 공통 몽테 카를로 대비 오차를 92%까지 감소시켰다.
• 프로빗 회귀의 경우, VCMC는 최적화 시간이 1500초 이내에 거의 수렴 오차 수준에 도달했으며, 순차적 MCMC가 1000개의 유효 표본을 위해 6000초 이상 소요되는 것에 비해 최적화 비용은 중간 수준이었다.
• 가우시안 믹스처 모델의 경우, VCMC는 K ≤ 25개의 파artition에 대해 이상적인 K에 가까운 속도 향상을 달성했으며, K = 50 및 100일 경우 약 K/2 수준이었으며, 이는 뛰어난 확장성을 보였다.
• VCMC의 최적화 비용은 매우 낮아, 특히 MCMC 샘플링이 비용이 많이 드는 경우, 매우 간단한 병렬 환경에서도 선형 속도 향상을 유지할 수 있었다.
• 구조적 환경에서 VCMC는 균일 평균화 및 가우시안 평균화보다 뛰어나며, 학습된 적응형 집계 함수의 우수성을 입증했다.