[논문 리뷰] Transport Monte Carlo

Leo L. Duan|arXiv (Cornell University)|2019. 07. 24.

Markov Chains and Monte Carlo Methods참고 문헌 18인용 수 4

한 줄 요약

이 논문은 최적 운반 이론을 활용하여 목표 사후분포를 균일 분포로 매핑하는 랜덤 운반 계획을 사용하는 새로운 베이지안 사후분포 추정 방법인 Transport Monte Carlo를 소개한다. 이 방법은 단순한 이동-스케일 변환의 혼합으로 매개변수화된 이 운반 계획을 활용하고 베이즈 정리에 기반한 밀도 가중 샘플링을 통해 유한한 오차 한계를 보장하는 독립적이고 고정밀도의 사후분포 샘플을 생성한다. 이는 다중모달, 고차원, 조합 최적화 문제에서 최신 기술보다 뛰어난 성능을 보인다.

ABSTRACT

Markov chain Monte Carlo is routinely used for posterior estimation in Bayesian models; however, it can suffer from computing inefficiency, especially in high dimensional or hierarchical models, due to the high correlation appearing in the Markov chain. While approximate solutions have become popular, there are concerns about accuracy. Inspired by the optimal transport literature, we propose a new posterior estimation strategy by instead solving for a random transport plan between the target posterior and multivariate uniform distribution. Specifically, the uniform can be well approximated by an infinite mixture of one-to-one transforms from the posterior -- the reverse conditional is the posterior as a random draw from the transforms of the uniform, providing a way of rapidly generating independent posterior samples. Most importantly, via the Bayes' theorem, the drawing is directly weighted by the posterior density/mass function, leading to high approximation accuracy. Compared to the other inverse methods, our random transport plan is very simple to parameterize, such as a mixture of basic location-and-scale changes. We provide theoretic justifications and quantify the approximation error of the finite sample. Our method shows compelling advantages in the accuracy compared to other state-of-art approaches, and we demonstrate its practical usefulness in solving challenging problems, such estimating multi-modal distribution, high-dimensional sparse regression, and combinatorial graph.

연구 동기 및 목표

• 고차원 및 계층적 베이지안 모델에서 표본 간 상관관계가 높아지는 문제로 인해 마르코프 체인 몬테카를로(MCMC)의 계산 비효율성을 해결하기 위해.
• 근사 추론에 의존하지 않고도 높은 정확도를 달성하는 비-MCMC 사후분포 추정 전략을 개발하기 위해.
• 최적 운반 이론을 활용하여 사후분포와 균일 분포 사이의 랜덤 운반 계획을 구성하여 효율적이고 독립적인 샘플링을 가능하게 하기 위해.
• 유한 샘플에 대한 근사 오차에 대한 이론적 보장을 제공하기 위해.
• 다중모달 사후분포, 고차원 희소 회귀, 조합 최적화 그래프 추론과 같은 도전적인 문제에서 실용적 우수성을 입증하기 위해.

제안 방법

• 이 방법은 최적 운반 원리를 활용하여 균일 분포에서 목표 사후분포로의 랜덤 운반 계획으로서 사후분포 샘플링을 수식화한다.
• 운반 계획은 기본적인 이동-스케일 변환의 유한한 혼합으로 매개변수화되어 있어 단순하고 효율적인 구현을 가능하게 한다.
• 역조건부 분포—운반 계획에서의 샘플링—은 베이즈 정리를 통해 사후밀도에 의해 직접 가중된 사후분포 샘플을 도출한다.
• 이 방법은 MCMC의 상관관계 문제를 피하기 위해 샘플이 약간 독립적이고 동일하게 분포된다는 것을 보장한다.
• 이론적 분석은 최적 운반 이론에서 유도된 경계를 사용하여 유한 샘플 운반 계획의 근사 오차를 정량화한다.
• 학습된 운반 맵을 통해 균일 분포에서의 샘플을 변환함으로써 빠른 사후분포 시뮬레이션을 가능하게 한다.

실험 결과

연구 질문

• RQ1 운반 기반 방법이 복잡한 베이지안 모델에서 최신 기술인 MCMC 및 변분 추론보다 더 높은 샘플링 정확도를 달성할 수 있는가?
• RQ2 최적 운반 이론을 어떻게 활용하여 사후분포 샘플링을 위한 단순하고 매개변수화 가능한 랜덤 운반 계획을 구성할 수 있는가?
• RQ3 유한 샘플 운반 계획의 이론적 근사 오차는 무엇이며, 샘플 크기와 어떻게 관련되는가?
• RQ4 이 방법은 다중모달 사후분포, 고차원 희소 회귀, 조합 최적화 문제를 효과적으로 처리할 수 있는가?
• RQ5 기존의 역변환 샘플링 및 정규화 플로우 기반 접근법과 비교해 효율성과 정확도에서 어떻게 성능을 냈는가?

주요 결과

• Transport Monte Carlo 방법은 다중모달 사후분포 추정에서 최신 기술보다 유의미하게 높은 정확도를 달성한다.
• 이 방법은 고차원 희소 회귀 과제에서 희소 계수 패턴을 정확하게 복원하는 데 뛰어난 성능을 보인다.
• 기존 MCMC 방법이 높은 상관관계와 느린 믹싱으로 어려움을 겪는 조합 최적화 그래프 추론 문제를 성공적으로 처리한다.
• 이론적 분석 결과, 유한 샘플 근사 오차는 유한하며 샘플 크기가 증가함에 따라 감소함을 확인했다.
• 간단한 이동-스케일 변환 혼합을 통해 균일 변수를 변환함으로써 독립적인 사후분포 샘플을 효율적으로 생성한다.
• 실험 결과는 베이즈 정리를 통한 밀도 가중 샘플링이 반복적인 마르코프 체인 없이도 고정밀도 사후분포 근사치를 도출함을 확인했다.