[논문 리뷰] A Unified Particle-Optimization Framework for Scalable Bayesian Sampling

Changyou Chen, Ruiyi Zhang외 3명|arXiv (Cornell University)|2018. 05. 29.

Markov Chains and Monte Carlo Methods참고 문헌 33인용 수 40

한 줄 요약

본 논문은 Wasserstein 그래디언트 흐름 위의 통합 파티클 최적화 프레임워크를 통해 SG-MCMC와 SVGD를 통합하고, 파티클 방법을 통한 효율적이고 확장 가능한 베이지안 샘플링을 가능하게 한다.

ABSTRACT

There has been recent interest in developing scalable Bayesian sampling methods such as stochastic gradient MCMC (SG-MCMC) and Stein variational gradient descent (SVGD) for big-data analysis. A standard SG-MCMC algorithm simulates samples from a discrete-time Markov chain to approximate a target distribution, thus samples could be highly correlated, an undesired property for SG-MCMC. In contrary, SVGD directly optimizes a set of particles to approximate a target distribution, and thus is able to obtain good approximations with relatively much fewer samples. In this paper, we propose a principle particle-optimization framework based on Wasserstein gradient flows to unify SG-MCMC and SVGD, and to allow new algorithms to be developed. Our framework interprets SG-MCMC as particle optimization on the space of probability measures, revealing a strong connection between SG-MCMC and SVGD. The key component of our framework is several particle-approximate techniques to efficiently solve the original partial differential equations on the space of probability measures. Extensive experiments on both synthetic data and deep neural networks demonstrate the effectiveness and efficiency of our framework for scalable Bayesian sampling.

연구 동기 및 목표

• 대용량 데이터에 대해 SG-MCMC와 SVGD를 이용한 확장 가능한 베이지안 샘플링 동기를 제시한다.
• Wasserstein 그래디언트 흐름 위에서 SG-MCMC와 SVGD를 하나로 묶는 파티클 최적화 프레임워크를 제안한다.
• 연속 형식을 해결하기 위한 실용적인 파티클 근사 기술(이산 그래디언트 흐름 및 blob 방법)을 개발한다.
• 합성 데이터와 딥 뉴럴 네트워크 실험을 통해 효과와 효율성을 입증한다.

제안 방법

• 확률 측도 공간에서 SG-MCMC와 SVGD를 Wasserstein 그래디언트 흐름으로 표현한다.
• 결과 최적화를 해결하기 위한 이산 그래디언트 흐름 및 blob 방법의 파티클 근사 기법을 도입한다.
• 표준 SVGD 업데이트를 회복하는 blob-method 기반의 파티클 진화를 통해 SVGD의 업데이트를 도출한다.
• JKO 스킴에 맞춰 W2 항을 엔트로피 정규화 수송으로 다루고 Jordan–Kinderlehrer–Otto 스킴을 근사하여 SG-MCMC 파티클 업데이트를 도출한다.
• 에너지 함수와 수송 비용의 근사를 사용한 파티클의 실용적 기울기 기반 업데이트를 제공한다.

실험 결과

연구 질문

• RQ1 SG-MCMC와 SVGD가 Wasserstein 그래디언트 흐름 위의 통합 파티클 최적화 프레임워크의 특수한 경우로 볼 수 있는가?
• RQ2 고차원에서 SG-MCMC와 SVGD에 대해 확장 가능하고 효율적인 해결책을 가능하게 하는 파티클 근사 기술은 무엇인가?
• RQ3 이산 그래디언트 흐름과 blob 방법을 어떻게 적용하여 확장 가능한 베이지안 샘플링을 위한 실용적 파티클 업데이트를 도출할 수 있는가?

주요 결과

• 통합 파티클 최적화 프레임워크가 SG-MCMC와 SVGD를 Wasserstein 그래디언트 흐름의 특수 사례로 포괄할 수 있다.
• 이산 그래디언트 흐름 및 blob-method 접근 방식은 샘플러를 지배하는 FP 방정식에 대한 확장 가능한 파티클 기반 해를 제공한다.
• SVGD는 특정 속도장을 갖는 WGF로 해석될 수 있으며, 이는 표준 파티클 업데이트로 이어진다.
• SG-MCMC는 이산 그래디언트 흐름 체계를 통해 구현될 수 있으며, JKO 스킴과 일치하는 실용적 파티클 업데이트를 도출한다.
• 합성 데이터와 딥 뉴럴 네트워크 실험에서 제안된 프레임워크의 확장 가능한 베이지안 샘플링에 대한 효과성과 효율성을 입증한다.