[论文解读] Beyond Log-concavity: Provable Guarantees for Sampling Multi-modal Distributions using Simulated Tempering Langevin Monte Carlo

Holden Lee, Andrej Risteski+1 more|arXiv (Cornell University)|Jan 1, 2018

Bayesian Methods and Mixture Models被引用 19

一句话总结

该论文提出了一种新颖的采样方法，结合了Langevin扩散与模拟退火，以实现多模态分布（特别是高斯混合分布）的快速混合。通过动态调整温度水平，该算法克服了标准Langevin扩散在多模态设置下混合缓慢的问题，首次仅通过访问对数后验密度的梯度，为这类分布提供了可证明的多项式时间采样保证。

ABSTRACT

A key task in Bayesian machine learning is sampling from distributions that are only specified up to a partition function (i.e., constant of proportionality). One prevalent example of this is sampling posteriors in parametric distributions, such as latent-variable generative models. However sampling (even very approximately) can be #P-hard. Classical results (going back to Bakry and Emery) on sampling focus on log-concave distributions, and show a natural Markov chain called Langevin diffusion mix in polynomial time. However, all log-concave distributions are uni-modal, while in practice it is very common for the distribution of interest to have multiple modes. In this case, Langevin diffusion suffers from torpid mixing. We address this problem by combining Langevin diffusion with simulated tempering. The result is a Markov chain that mixes more rapidly by transitioning between different temperatures of the distribution. We analyze this Markov chain for a mixture of (strongly) log-concave distributions of the same shape. In particular, our technique applies to the canonical multi-modal distribution: a mixture of gaussians (of equal variance). Our algorithm efficiently samples from these distributions given only access to the gradient of the log-pdf. To the best of our knowledge, this is the first result that proves fast mixing for multimodal distributions.

研究动机与目标

• 解决贝叶斯机器学习中从多模态分布高效采样的挑战，因为标准方法在混合缓慢时会失效。
• 克服经典Langevin扩散的局限性，后者仅对对数凹（单峰）分布保证快速混合。
• 为多模态后验分布（特别是等方差高斯混合）开发一个可证明高效的采样算法。
• 确保该方法仅需访问对数后验的梯度，从而适用于复杂模型。
• 在存在多个模式的情况下，提供关于混合时间的多项式时间理论保证，且该保证与相关问题参数相关。

提出的方法

• 提出一种混合马尔可夫链，结合Langevin扩散与模拟退火，以实现在目标分布不同温度水平之间的转移。
• 使用允许链通过探索分布的更高温度版本来逃逸局部模式的温度调度。
• 在每个温度水平应用Metropolis-Hastings校正，以确保细致平衡并保持正确的平稳分布。
• 利用高斯混合中各分量的强对数凹性，来界定每个温度下的混合时间。
• 设计一种在温度之间转换的机制，以确保在模式间快速探索，同时保持收敛到正确的平衡分布。
• 通过分析跨温度的联合状态空间的谱间隙和导纳，证明整体链的混合时间为多项式时间。

实验结果

研究问题

• RQ1 能否严格地将模拟退火与Langevin扩散结合，以实现多模态分布的快速混合？
• RQ2 当从强对数凹分量（如高斯分布）的混合物中采样时，所得算法是否仍保持多项式混合时间？
• RQ3 该方法能否仅通过访问对数后验的梯度，而无需完整密度评估，实现可证明的效率？
• RQ4 即使目标分布具有多个模式，组合链的混合时间是否仍为维度和逆温度范围的多项式？
• RQ5 在多模态后验分布上，该算法的收敛速度与标准Langevin扩散相比如何？

主要发现

• 所提出的算法对多模态分布（特别是等方差高斯混合）实现了多项式混合时间。
• 该方法可证明地克服了标准Langevin扩散在多模态设置下的混合缓慢问题。
• 在对分量分布施加弱假设的前提下，混合时间在维度和逆温度范围上被多项式有界。
• 该算法仅需访问对数概率密度的梯度，使其适用于高维贝叶斯推断问题。
• 理论分析首次为使用模拟退火Langevin动力学的采样方法在多模态分布上建立了可证明的快速混合保证。
• 只要各分量是强对数凹且形状相同（例如具有相同协方差），该结果对任意数量的模式均成立。