[論文レビュー] A Unified Particle-Optimization Framework for Scalable Bayesian Sampling

Changyou Chen, Ruiyi Zhang+3 more|arXiv (Cornell University)|May 29, 2018

Markov Chains and Monte Carlo Methods参考文献 33被引用数 40

ひとこと要約

本論文は、Wasserstein勾配流上の統一粒子最適化フレームワークを提案し、SG-MCMCとSVGDを統合することで、粒子法による効率的でスケーラブルなベイズサンプリングを実現します。

ABSTRACT

There has been recent interest in developing scalable Bayesian sampling methods such as stochastic gradient MCMC (SG-MCMC) and Stein variational gradient descent (SVGD) for big-data analysis. A standard SG-MCMC algorithm simulates samples from a discrete-time Markov chain to approximate a target distribution, thus samples could be highly correlated, an undesired property for SG-MCMC. In contrary, SVGD directly optimizes a set of particles to approximate a target distribution, and thus is able to obtain good approximations with relatively much fewer samples. In this paper, we propose a principle particle-optimization framework based on Wasserstein gradient flows to unify SG-MCMC and SVGD, and to allow new algorithms to be developed. Our framework interprets SG-MCMC as particle optimization on the space of probability measures, revealing a strong connection between SG-MCMC and SVGD. The key component of our framework is several particle-approximate techniques to efficiently solve the original partial differential equations on the space of probability measures. Extensive experiments on both synthetic data and deep neural networks demonstrate the effectiveness and efficiency of our framework for scalable Bayesian sampling.

研究の動機と目的

• SG-MCMCとSVGDを用いて、大規模データに対するスケーラブルなベイズサンプリングの動機づけ。
• Wasserstein勾配流上の粒子最適化フレームワークを提案し、SG-MCMCとSVGDを統合する。
• 連続的定式化を解くための実用的な粒子近似手法（離散勾配流と blob 法）を開発する。
• 合成データと深層ニューラルネットワーク実験を通じて有効性と効率を実証する。

提案手法

• SG-MCMCとSVGDを、確率測度の空間上のWasserstein勾配流として定式化する。
• 得られた最適化問題を解くための粒子近似手法（離散勾配流と blob 法）を導入する。
• 標準的なSVGD更新を再現する blob 法に基づく粒子進化としてSVGDの更新式を導出する。
• Jordan–Kinderlehrer–Ottoスキームを近似してSG-MCMCの粒子更新を導出し、エントロピー正則化輸送でW2項に対処する。
• エネルギー関数と輸送コストの近似を用いて、粒子の実用的な勾配ベースの更新を提供する。

実験結果

リサーチクエスチョン

• RQ1 SG-MCMCとSVGDは、Wasserstein勾配流上の統一粒子最適化フレームワークの特別なケースとしてみなすことができるか。
• RQ2 高次元空間で、SG-MCMCとSVGDのためのスケーラブルで効率的な解を可能にする粒子近似技術は何か。
• RQ3 離散勾配流と blob 法をどのように適用して、スケーラブルなベイズサンプリングの実用的な粒子更新を導出できるか。

主な発見

• 統一粒子最適化フレームワークは、Wasserstein勾配流上でSG-MCMCとSVGDを特別なケースとして包含することができる。
• 離散勾配流と blob 法のアプローチは、サンプラーを支配する FP 方程式に対してスケーラブルな粒子ベースの解を提供する。
• SVGDは、特定の速度場を持つWGFとして解釈でき、それが標準的な粒子更新をもたらす。
• SG-MCMCは、JKOスキームに整合した実用的な粒子更新につながる離散勾配流スキームを介して実装できる。
• 合成データと深層ニューラルネットワークの実験は、提案フレームワークのスケーラブルなベイズサンプリングに対する有効性と効率を示している。