[논문 리뷰] Beyond Log-concavity: Provable Guarantees for Sampling Multi-modal Distributions using Simulated Tempering Langevin Monte Carlo

Holden Lee, Andrej Risteski외 1명|arXiv (Cornell University)|2018. 01. 01.

Bayesian Methods and Mixture Models인용 수 19

한 줄 요약

이 논문은 랭지에빈 확산과 시뮬레이티드 템퍼처를 조합한 새로운 샘플링 방법을 제안하여 다중모달 분포, 특히 가우시안 혼합 분포에서 빠른 혼합을 달성한다. 온도 수준을 동적으로 조정함으로써 표준 랭지에빈 확산이 다중모달 설정에서 느린 혼합 문제를 해결하며, 로그-밀도 함수의 도함수 접근만으로도 이러한 분포에 대해 다항시간 내에 샘플링 보장을 보장하는 최초의 증명 가능한 방법을 제공한다.

ABSTRACT

A key task in Bayesian machine learning is sampling from distributions that are only specified up to a partition function (i.e., constant of proportionality). One prevalent example of this is sampling posteriors in parametric distributions, such as latent-variable generative models. However sampling (even very approximately) can be #P-hard. Classical results (going back to Bakry and Emery) on sampling focus on log-concave distributions, and show a natural Markov chain called Langevin diffusion mix in polynomial time. However, all log-concave distributions are uni-modal, while in practice it is very common for the distribution of interest to have multiple modes. In this case, Langevin diffusion suffers from torpid mixing. We address this problem by combining Langevin diffusion with simulated tempering. The result is a Markov chain that mixes more rapidly by transitioning between different temperatures of the distribution. We analyze this Markov chain for a mixture of (strongly) log-concave distributions of the same shape. In particular, our technique applies to the canonical multi-modal distribution: a mixture of gaussians (of equal variance). Our algorithm efficiently samples from these distributions given only access to the gradient of the log-pdf. To the best of our knowledge, this is the first result that proves fast mixing for multimodal distributions.

연구 동기 및 목표

• 베이지안 머신러닝에서 표준 방법이 느린 혼합으로 실패하는 다중모달 분포에서의 효율적 샘플링 문제를 해결한다.
• 클래식한 랭지에빈 확산의 한계를 극복한다. 이는 로그-볼록(단일모달) 분포에 대해서만 빠른 혼합을 보장하기 때문이다.
• 다중모달 사후분포, 특히 동일한 분산을 가진 가우시안 혼합 분포에 대해 증명 가능한 효율적인 샘플링 알고리즘을 개발한다.
• 복잡한 모델에 적용 가능하도록 사후분포의 로그-밀도 함수의 도함수 접근만을 요구한다.
• 다중 모드가 존재하는 상황에서도 관련 문제 매개변수에 대해 다항시간 혼합 시간 보장을 이론적으로 확보한다.

제안 방법

• 목표 분포의 다양한 온도 수준 간 전이를 가능하게 하기 위해 랭지에빈 확산과 시뮬레이티드 템퍼처를 조합한 하이브리드 마르코프 체인을 도입한다.
• 체인의 온도 스케줄을 통해 분포의 고온 버전을 탐색함으로써 국소 최저점에서 벗어나도록 한다.
• 각 온도 수준에서 메트로폴리스-해스팅스 보정을 적용하여 세부 균형 조건과 정상 분포를 보장한다.
• 가우시안 혼합 분포의 개별 구성 요소가 강한 로그-볼록성을 가지므로, 각 온도에서 혼합 시간을 유계로 제한한다.
• 온도 간 전이 메커니즘을 설계하여 모드 간 신속한 탐색을 보장하면서도 정확한 평형 분포로 수렴하도록 한다.
• 온도 간 전체 상태공간의 스펙트럼 갭과 도전도를 분석함으로써, 전체 체인이 다항시간 내에 혼합됨을 증명한다.

실험 결과

연구 질문

• RQ1 시뮬레이티드 템퍼처를 랭지에빈 확산과 엄밀하게 조합하여 다중모달 분포에서 빠른 혼합을 달성할 수 있는가?
• RQ2 결과로 얻어진 알고리즘이 강한 로그-볼록 성분(예: 가우시안)으로 이루어진 혼합 분포에서 다항 혼합 시간을 유지하는가?
• RQ3 밀도 함수의 전체 평가 없이도 로그-밀도 함수의 도함수 접근만으로도 효율성이 증명 가능한가?
• RQ4 목표 분포에 다수의 모드가 존재하는 경우에도, 복합 체인의 혼합 시간이 차원과 역온도 범위에 대해 다항식으로 유지되는가?
• RQ5 다중모달 사후분포에서 표준 랭지에빈 확산과 비교해 성능이 어떻게 다른가?

주요 결과

• 제안된 알고리즘은 동일한 분산을 가진 가우시안 혼합 분포에 대해 다항 혼합 시간을 달성한다.
• 이 방법은 표준 랭지에빈 확산이 다중모달 설정에서 느린 혼합 문제를 증명 가능하게 극복한다.
• 구성 요소 분포에 대한 약한 가정 하에, 차원과 역온도 범위에 대해 다항식으로 혼합 시간이 유계로 제한된다.
• 알고리즘은 로그-밀도 함수의 도함수 접근만을 요구하므로 고차원 베이지안 추론 문제에 적용 가능하다.
• 이론적 분석을 통해, 랭지에빈 역학과 시뮬레이티드 템퍼처를 조합한 샘플링 방법에 대해 다중모달 분포에서 처음으로 증명 가능한 빠른 혼합 보장을 확립한다.
• 모든 수의 모드에 대해 성립하며, 구성 요소가 강한 로그-볼록성과 동일한 형태(예: 동일한 공분산)를 가진다.