[论文解读] Riemannian Stein Variational Gradient Descent for Bayesian Inference

Chang Liu, Jun Zhu|arXiv (Cornell University)|Nov 30, 2017

Gaussian Processes and Bayesian Inference参考文献 25被引用 20

一句话总结

本文提出黎曼 Stein 变分梯度下降（RSVGD），一种基于粒子的贝叶斯推断方法，通过利用信息几何将 Stein 变分梯度下降（SVGD）推广至黎曼流形。RSVGD 在黎曼流形上实现了更优的粒子效率、迭代效率和近似灵活性，在流形约束和欧几里得任务中均优于 SVGD 和 MCMC 方法。

ABSTRACT

We develop Riemannian Stein Variational Gradient Descent (RSVGD), a Bayesian inference method that generalizes Stein Variational Gradient Descent (SVGD) to Riemann manifold. The benefits are two-folds: (i) for inference tasks in Euclidean spaces, RSVGD has the advantage over SVGD of utilizing information geometry, and (ii) for inference tasks on Riemann manifolds, RSVGD brings the unique advantages of SVGD to the Riemannian world. To appropriately transfer to Riemann manifolds, we conceive novel and non-trivial techniques for RSVGD, which are required by the intrinsically different characteristics of general Riemann manifolds from Euclidean spaces. We also discover Riemannian Stein's Identity and Riemannian Kernelized Stein Discrepancy. Experimental results show the advantages over SVGD of exploring distribution geometry and the advantages of particle-efficiency, iteration-effectiveness and approximation flexibility over other inference methods on Riemann manifolds.

研究动机与目标

• 解决现有方法在黎曼流形上对贝叶斯模型缺乏高效粒子基推断方法的问题。
• 克服 MCMC 和变分推断（VI）等现有方法在处理复杂、非欧几里得后验几何时的局限性。
• 在保持其关键优势（粒子效率与非参数灵活性）的前提下，将 Stein 变分梯度下降（SVGD）框架推广至黎曼流形。
• 开发新型理论工具——黎曼 Stein 恒等式与黎曼核化 Stein 散度，用于在弯曲空间中进行推断。
• 通过利用底层几何结构，在黎曼流形（如超球面）和欧几里得空间中均证明该方法的有效性。

提出的方法

• 推导黎曼流形上的方向导数，以推广 SVGD 的泛函梯度更新规则。
• 提出黎曼 Stein 恒等式，即经典 Stein 恒等式的流形自适应版本，以实现基于得分的推断。
• 提出黎曼核化 Stein 散度（RKSD）作为评估流形上后验近似质量的散度度量。
• 使用 von Mises-Fisher（vMF）核 $K(y,y') = \exp(\kappa y^\top y')$ 作为超球面 $\mathbb{S}^{n-1}$ 上的有效核，该核由高斯核的限制导出。
• 应用求和核技巧，将 vMF 核扩展至乘积流形 $ (\mathbb{S}^{n-1})^P $，实现多粒子更新。
• 采用流形约束优化框架实现 RSVGD，尊重参数空间的内在几何结构，避免依赖坐标系的失真。

实验结果

研究问题

• RQ1 能否在保持理论与实际优势的前提下，将 Stein 变分梯度下降推广至黎曼流形？
• RQ2 SVGD 中的泛函梯度更新规则如何适应黎曼流形的内在几何结构？
• RQ3 在黎曼设置下，Stein 恒等式与核化散度的适当类比是什么？
• RQ4 与 MCMC 和 VI 方法相比，RSVGD 在黎曼流形上是否实现了更高的粒子效率与迭代效率？
• RQ5 RSVGD 是否能有效利用后验分布的几何结构，适用于流形约束与欧几里得推断任务？

主要发现

• 在 20News-different 数据集上，RSVGD 在每轮迭代中对对数困惑度的优化最为高效，优于 MCMC 和 VI 方法的迭代效率。
• 仅使用 100 个粒子时，RSVGD 的对数困惑度低于 SGGMCf 和 GMC，展现出更优的粒子效率与近似灵活性。
• 在粒子数量较大时，由于正自相关性，MCMC 方法（如 SGGMCf）的性能提升有限，而 RSVGD 仍能保持显著的性能增益。
• 该方法成功将 SVGD 推广至黎曼流形，实现了在超球面及其他弯曲空间上的有效推断，且无需依赖全局坐标系。
• 在 $\mathbb{S}^{n-1}$ 上的 vMF 核被验证为有效核，其应用使 RSVGD 中的粒子更新稳定且高效。
• 由于采用非参数、灵活的变分族，RSVGD 在显著更少粒子数下即达到与 MCMC 相当的结果，优于平均场 VI。