[论文解读] Grassmann Stein Variational Gradient Descent

Xing Liu, Harrison Zhu+3 more|arXiv (Cornell University)|Feb 7, 2022

Markov Chains and Monte Carlo Methods被引用 4

一句话总结

本文提出 Grassmann Stein 变分梯度下降（GSVGD），一种新颖的基于粒子的推断方法，通过在 Grassmann 流形上使用耦合的 ODE-SDE 系统，自适应地将数据和得分函数投影到 m 维子空间中，从而在高维贝叶斯推断中改进了不确定性量化。GSVGD 在估计认知不确定性方面优于 SVGD 和 S-SVGD，尤其在具有内在低维结构的问题中表现更优，同时保持了准确的均值估计。

ABSTRACT

Stein variational gradient descent (SVGD) is a deterministic particle inference algorithm that provides an efficient alternative to Markov chain Monte Carlo. However, SVGD has been found to suffer from variance underestimation when the dimensionality of the target distribution is high. Recent developments have advocated projecting both the score function and the data onto real lines to sidestep this issue, although this can severely overestimate the epistemic (model) uncertainty. In this work, we propose Grassmann Stein variational gradient descent (GSVGD) as an alternative approach, which permits projections onto arbitrary dimensional subspaces. Compared with other variants of SVGD that rely on dimensionality reduction, GSVGD updates the projectors simultaneously for the score function and the data, and the optimal projectors are determined through a coupled Grassmann-valued diffusion process which explores favourable subspaces. Both our theoretical and experimental results suggest that GSVGD enjoys efficient state-space exploration in high-dimensional problems that have an intrinsic low-dimensional structure.

研究动机与目标

• 解决在高维目标分布下 Stein 变分梯度下降（SVGD）中存在方差低估的问题。
• 克服 S-SVGD 中一维投影的局限性，其因固定得分函数投影而可能高估认知不确定性。
• 提出一个统一框架，联合优化数据和得分函数的投影器，以增强状态空间探索能力。
• 通过使用更高维的子空间，在具有内在低维结构的高维问题中实现准确的不确定性估计。
• 引入一种 Grassmann 值随机扩散过程，以在子空间选择中平衡探索与利用。

提出的方法

• 提出 Grassmann 核 Stein 偏差（GKSD），用于在 m 维子空间中度量提议分布与目标分布之间的偏差。
• 构建一个耦合的 ODE-SDE 系统，其中 SVGD 粒子与 Grassmann 投影器同步演化，投影器由 Grassmann 流形上的扩散过程引导。
• 在 Grassmann 流形上使用随机过程，自适应地学习能最大化偏差的最优 m 维子空间，从而实现对有利方向的动态探索。
• 同时更新数据和得分函数的投影器，避免先前方法中因固定一组投影而引入的确定性偏差。
• 支持任意 m 维投影（1 ≤ m ≤ d），能够捕捉分量之间的相关性，从而在 1D 切片之上提升不确定性量化效果。
• 提出 GSVGD 的批处理扩展，使用多个投影器以提升高维推断中的多样性与收敛性。

实验结果

研究问题

• RQ1 与 1D 投影相比，更高维子空间（m > 1）是否能改进高维贝叶斯推断中的不确定性量化？
• RQ2 联合优化数据和得分函数的投影器是否能降低偏差并提升 SVGD 的估计精度？
• RQ3 Grassmann 值扩散过程如何在子空间选择中平衡探索与利用？
• RQ4 GSVGD 在高维问题中是否能在均值和协方差估计方面与 HMC 参考后验分布达成更好的一致性？
• RQ5 GSVGD 的性能对投影维数 m 以及扩散过程超参数的选择是否敏感？

主要发现

• 在高维随机过程推断问题中，GSVGD 的不确定性估计精度高于 SVGD 和 S-SVGD，可信区间与 HMC 参考结果高度吻合。
• 在 Covertype 数据集实验中，当 m ≈ 10 时，GSVGD 实现了最准确的后验协方差估计，优于严重高估不确定性的 S-SVGD。
• GSVGD 通过利用能捕捉分量间相关性的 m 维子空间，有效缓解了高维问题中的方差低估问题。
• 在不同投影维数下，GSVGD 结果与 HMC 参考结果之间的能量距离始终低于 SVGD 和 S-SVGD，表明其逼近质量更优。
• GSVGD 的最优投影维数并非显而易见，但位于一个适中范围（例如，随机过程问题中 m ≈ 20），且在较宽泛的 m 值范围内性能稳定。
• GSVGD 在通过启发式方法调优超参数时表现出鲁棒性，但敏感性分析表明，为达到最佳性能可能需要针对具体案例进行调优。