[论文解读] A Unified Particle-Optimization Framework for Scalable Bayesian Sampling

Changyou Chen, Ruiyi Zhang+3 more|arXiv (Cornell University)|May 29, 2018

Markov Chains and Monte Carlo Methods参考文献 33被引用 40

一句话总结

本文提出了一种统一的粒子优化框架，在 Wasserstein 梯度流中统一 SG-MCMC 和 SVGD，使通过粒子方法实现高效、可扩展的贝叶斯采样。

ABSTRACT

There has been recent interest in developing scalable Bayesian sampling methods such as stochastic gradient MCMC (SG-MCMC) and Stein variational gradient descent (SVGD) for big-data analysis. A standard SG-MCMC algorithm simulates samples from a discrete-time Markov chain to approximate a target distribution, thus samples could be highly correlated, an undesired property for SG-MCMC. In contrary, SVGD directly optimizes a set of particles to approximate a target distribution, and thus is able to obtain good approximations with relatively much fewer samples. In this paper, we propose a principle particle-optimization framework based on Wasserstein gradient flows to unify SG-MCMC and SVGD, and to allow new algorithms to be developed. Our framework interprets SG-MCMC as particle optimization on the space of probability measures, revealing a strong connection between SG-MCMC and SVGD. The key component of our framework is several particle-approximate techniques to efficiently solve the original partial differential equations on the space of probability measures. Extensive experiments on both synthetic data and deep neural networks demonstrate the effectiveness and efficiency of our framework for scalable Bayesian sampling.

研究动机与目标

• 为大数据的可扩展贝叶斯采样提供动机，使用 SG-MCMC 和 SVGD。
• 提出一个在 Wasserstein 梯度流上实现粒子优化的框架，以统一 SG-MCMC 和 SVGD。
• 开发实用的粒子近似技术（离散梯度流和 blob 方法）以求解连续表述。
• 通过合成数据与深度神经网络实验来证明其有效性与效率。

提出的方法

• 将 SG-MCMC 和 SVGD 作为概率测度空间上的 Wasserstein 梯度流来表述。
• 引入粒子近似技术：离散梯度流和 blob 方法，以求解由此产生的优化问题。
• 将 SVGD 推导为基于 blob 方法的粒子演化，从而得到标准的 SVGD 更新。
• 通过近似 Jordan–Kinderlehrer–Otto 方案并用熵正则化传输处理 W2 项来推导 SG-MCMC 粒子更新。
• 提供使用能量函数和传输成本近似的粒子梯度更新的实用方法。

实验结果

研究问题

• RQ1 是否可以将 SG-MCMC 和 SVGD 视为在 Wasserstein 梯度流上统一的粒子优化框架的特例？
• RQ2 哪些粒子近似技术能够在高维下为 SG-MCMC 和 SVGD 提供可扩展、有效的解？
• RQ3 如何应用离散梯度流和 blob 方法来推导可用于可扩展贝叶斯采样的实用粒子更新？

主要发现

• 一个统一的粒子优化框架能够将 SG-MCMC 和 SVGD 作为 Wasserstein 梯度流上的特例纳入其中。
• 离散梯度流和 blob 方法为支配采样器的 FP 方程提供可扩展的基于粒子的方法。
• SVGD 可以被解释为具有特定速度场的 WGF，从而产生其标准的粒子更新。
• 可以通过离散梯度流方案实现 SG-MCMC，得到与 JKO 方案对齐的实用粒子更新。
• 在合成数据和深度神经网络上的实验表明所提出框架在可扩展贝叶斯采样方面具有有效性与高效性。