[论文解读] Message Passing Stein Variational Gradient Descent

Jingwei Zhuo, Chang Liu+4 more|arXiv (Cornell University)|Nov 13, 2017

Markov Chains and Monte Carlo Methods参考文献 15被引用 23

一句话总结

本文提出消息传递斯坦因变分梯度下降（MP-SVGD），一种基于粒子的贝叶斯推断方法，通过将全局推断问题分解为马尔可夫毯上的局部推断任务，缓解了高维概率图模型中的粒子退化问题。通过利用条件独立结构并使用再生核希尔伯特空间中的局部核，MP-SVGD保持了较强的排斥力，在高维模型中相比SVGD及其他方法展现出更优的粒子效率和近似精度。

ABSTRACT

Stein variational gradient descent (SVGD) is a recently proposed particle-based Bayesian inference method, which has attracted a lot of interest due to its remarkable approximation ability and particle efficiency compared to traditional variational inference and Markov Chain Monte Carlo methods. However, we observed that particles of SVGD tend to collapse to modes of the target distribution, and this particle degeneracy phenomenon becomes more severe with higher dimensions. Our theoretical analysis finds out that there exists a negative correlation between the dimensionality and the repulsive force of SVGD which should be blamed for this phenomenon. We propose Message Passing SVGD (MP-SVGD) to solve this problem. By leveraging the conditional independence structure of probabilistic graphical models (PGMs), MP-SVGD converts the original high-dimensional global inference problem into a set of local ones over the Markov blanket with lower dimensions. Experimental results show its advantages of preventing vanishing repulsive force in high-dimensional space over SVGD, and its particle efficiency and approximation flexibility over other inference methods on graphical models.

研究动机与目标

• 为解决斯坦因变分梯度下降（SVGD）在维度增加时恶化的粒子退化问题。
• 分析维度与SVGD中排斥力之间的负相关性，该现象导致粒子坍塌。
• 开发一种可扩展的、粒子高效的高维概率图模型（PGMs）推断方法，无需可处理的条件分布或参数化假设。
• 通过将全局KL散度最小化分解为马尔可夫毯上的局部推断问题，提升近似灵活性和收敛性。

提出的方法

• MP-SVGD利用PGM的条件独立结构，将全局KL散度最小化问题分解为局部推断问题。
• 在每个局部马尔可夫毯内，通过向量值再生核希尔伯特空间中的局部核对粒子进行迭代更新，保持排斥力。
• 通过消息传递机制在图模型中传播局部更新，实现在低维局部邻域上的分布式计算。
• 每个变量的局部核定义在其马尔可夫毯上，确保即使在高维空间中排斥力依然有效。
• 通过在局部子空间中利用核化斯坦因差异最小化KL散度，迭代提升粒子多样性与近似质量。
• MP-SVGD基于KL散度的分解推导而来，与采用图结构核的同期方法不同。

实验结果

研究问题

• RQ1 为何SVGD在高维空间中会出现粒子退化？
• RQ2 维度与SVGD中排斥力之间存在何种关系？
• RQ3 在高维PGM中，基于马尔可夫毯的局部推断能否提升粒子多样性与近似精度？
• RQ4 在真实世界模型中，MP-SVGD相较于SVGD及其他推断方法在粒子效率与收敛性方面表现如何？
• RQ5 在全局核失效的高维空间中，通过局部图结构进行消息传递能否维持强排斥力？

主要发现

• 在σₙ=10的图像去噪任务中，MP-SVGD仅用50个粒子即达到更高的PSNR（32.09）与SSIM（0.905），优于SVGD（PSNR：31.58，SSIM：0.894）。
• MP-SVGD仅用50个粒子即达到辅助Gibbs采样使用200–800个粒子的性能，证明其具有更优的粒子效率。
• SVGD中的排斥力与维度呈负相关，而MP-SVGD保持非负排斥力，验证了理论分析。
• 在PAMRF去噪任务中，MP-SVGD在多个噪声水平下均优于SVGD与辅助Gibbs采样，图像质量指标更优。
• MP-SVGD-m（采用平均场消息传递）始终优于MP-SVGD-s（采用求和-乘积），验证了其在推断稳定性方面的设计选择。
• 该方法在真实应用（如Fields-of-Experts先验的图像去噪）中表现优异，仅用少量粒子即取得当前最优结果。