[论文解读] Analyzing and Improving Stein Variational Gradient Descent for High-dimensional Marginal Inference

Jingwei Zhuo, Chang Liu+2 more|arXiv (Cornell University)|Nov 13, 2017

Geophysical Methods and Applications被引用 1

一句话总结

本文分析了得分匹配变分推断（SVGD）在高维空间中的局限性，表明其排斥力随维度呈多项式衰减，导致边际推断性能下降。为解决此问题，本文提出边际SVGD（M-SVGD），通过在核函数中引入马尔可夫随机场（MRF）结构，提升粒子效率与高维空间中的边际近似能力。

ABSTRACT

Stein variational gradient descent (SVGD) is a nonparametric inference method, which iteratively transports a set of randomly initialized particles to approximate a differentiable target distribution, along the direction that maximally decreases the KL divergence within a vector-valued reproducing kernel Hilbert space (RKHS). Compared to Monte Carlo methods, SVGD is particle-efficient because of the repulsive force induced by kernels. In this paper, we develop the first analysis about the high dimensional performance of SVGD and emonstrate that the repulsive force drops at least polynomially with increasing dimensions, which results in poor marginal approximation. To improve the marginal inference of SVGD, we propose Marginal SVGD (M-SVGD), which incorporates structural information described by a Markov random field (MRF) into kernels. M-SVGD inherits the particle efficiency of SVGD and can be used as a general purpose marginal inference tool for MRFs. Experimental results on grid based Markov random fields show the effectiveness of our methods.

研究动机与目标

• 分析SVGD在高维设置下的性能表现，特别是其边际推断能力。
• 识别SVGD在高维空间中边际近似性能差的根本原因。
• 开发一种粒子高效的方法，通过整合马尔可夫随机场（MRF）的结构信息，提升边际推断性能。
• 设计一种适用于MRF的一般性推断工具，在保持SVGD粒子效率的同时，提升高维空间中的推断精度。

提出的方法

• 本文提出边际SVGD（M-SVGD），通过在SVGD核函数中引入马尔可夫随机场（MRF）的条件独立结构，实现改进。
• 利用MRF的图结构重新定义SVGD中的核函数，以保留局部依赖关系，并增强相关边际方向上的排斥力。
• 该方法保留原始SVGD的更新规则，但使用反映MRF马尔可夫毯关系的结构化核函数。
• 理论分析表明，标准SVGD中的排斥力随维度增加至少呈多项式衰减，限制了其在边际推断中的有效性。
• M-SVGD通过将SVGD更新投影到编码MRF条件分布的再生核希尔伯特空间（RKHS）中推导得出。
• 该方法可实现沿最大化KL散度减小方向的粒子传输，同时尊重MRF的条件独立结构。

实验结果

研究问题

• RQ1 为何标准SVGD在高维分布中无法提供准确的边际近似？
• RQ2 状态空间的维度如何影响SVGD中排斥力的强度？
• RQ3 在SVGD核函数中引入马尔可夫随机场（MRF）结构是否能提升边际推断性能？
• RQ4 M-SVGD在提升边际精度的同时，能在多大程度上保持SVGD的粒子效率？
• RQ5 M-SVGD在基于网格的MRF上的高维推断任务中是否有效？

主要发现

• 标准SVGD中的排斥力随维度增加至少呈多项式衰减，这限制了其在有效探索和近似高维边际分布方面的能力。
• M-SVGD通过在核函数中嵌入MRF结构，成功提升了边际推断性能，使粒子在相关边际方向上产生更强且更集中的排斥力。
• 在基于网格的MRF上的实验结果表明，M-SVGD在边际近似方面优于标准SVGD。
• 该方法保持了SVGD的粒子效率，使其适用于高维MRF推断的一般性应用。
• 理论分析证实，SVGD中排斥力的衰减是高维空间中的根本性限制，从而凸显了M-SVGD中结构先验的必要性。