[论文解读] Stein Variational Message Passing for Continuous Graphical Models

Dilin Wang, Zhe Zeng+1 more|arXiv (Cornell University)|Nov 20, 2017

Markov Chains and Monte Carlo Methods被引用 6

一句话总结

该论文提出了一种用于连续图模型的分布式推断算法——Stein 变分消息传递（SVMP），通过在每个节点的马尔可夫毯上使用局部核函数，将 Stein 变分梯度下降（SVGD）扩展至分布式框架。通过利用梯度信息并挖掘图结构，SVMP 在高维设置下相较于 MCMC、粒子消息传递和原始 SVGD 方法展现出更优的样本效率与精度。

ABSTRACT

We propose a novel distributed inference algorithm for continuous graphical models, by extending Stein variational gradient descent (SVGD) to leverage the Markov dependency structure of the distribution of interest. Our approach combines SVGD with a set of structured local kernel functions defined on the Markov blanket of each node, which alleviates the curse of high dimensionality and simultaneously yields a distributed algorithm for decentralized inference tasks. We justify our method with theoretical analysis and show that the use of local kernels can be viewed as a new type of localized approximation that matches the target distribution on the conditional distributions of each node over its Markov blanket. Our empirical results show that our method outperforms a variety of baselines including standard MCMC and particle message passing methods.

研究动机与目标

• 开发一种用于连续图模型的分布式推断算法，以克服传统消息传递方法与变分方法的局限性。
• 通过利用马尔可夫毯结构，解决高维连续模型中的维度灾难问题。
• 将梯度信息融入基于粒子的推断，提升相对于无梯度方法的样本效率。
• 将 SVGD 扩展至消息传递框架，同时保持分布式计算与局部依赖建模能力。
• 在复杂且非高斯的模型中，实现优于现有基线方法（包括 MCMC 和粒子消息传递）的精度与收敛速度。

提出的方法

• 通过将 SVGD 修改为在每个节点的马尔可夫毯上使用局部核函数（而非全局核函数），提出一种分布式推断算法。
• 在再生核希尔伯特空间（RKHS）中使用速度场更新，通过迭代方式更新粒子，以最小化与目标分布之间的 KL 散度。
• 为每个节点定义仅依赖于其马尔可夫毯的局部核函数，从而支持分布式计算并降低高维依赖性。
• 理论分析表明，使用局部核函数对应于一种确定性近似，其在每个节点的马尔可夫毯上的条件分布上与目标分布一致。
• 采用基于粒子的近似方法，其中每个粒子代表后验分布的一个样本，并通过基于梯度的变换进行更新。
• 对对数方差参数应用截断操作，以在偏态后验分布中稳定训练过程。

实验结果

研究问题

• RQ1 能否将 SVGD 适配为支持连续图模型中分布式、消息传递式推断？
• RQ2 在高维设置下，使用马尔可夫毯上的局部核函数是否能提升样本效率与可扩展性？
• RQ3 在非高斯、连续模型中，基于梯度的粒子推断与无梯度的粒子消息传递及 MCMC 方法相比表现如何？
• RQ4 与全局核函数相比，局部核函数能否在近似精度与计算效率之间提供更优的权衡？
• RQ5 在复杂的真实世界推断任务中，所提出方法是否优于原始 SVGD 和朗之万动力学方法？

主要发现

• 在 d=100 的传感器网络中，图结构 SVGD 在估计后验均值方面优于所有基线方法，包括 MCMC、粒子消息传递和原始 SVGD。
• 在 d=9 的传感器网络中，图结构 SVGD 正确识别出后验的多模态结构，而 D-PMP 和 T-PMP 由于后验过于集中而未能捕捉到多个模式。
• 在 PriceUCI 数据集的众包应用中，图结构 SVGD 的均方误差最低，优于原始 SVGD 和朗之万动力学方法。
• 即使经过最优步长调优，朗之万动力学方法在高维、偏态后验分布中仍表现欠佳，主要由于收敛缓慢。
• 该方法在传统粒子消息传递无法捕捉多模态结构的非高斯、连续图模型中，展现出更优的稳定性和准确性。
• 实验结果证实，使用局部核函数可显著提升样本效率与收敛速度，尤其在高维推断任务中表现突出。