[论文解读] Convergence of Stein Variational Gradient Descent under a Weaker Smoothness Condition

Lukang Sun, Avetik Karagulyan+1 more|arXiv (Cornell University)|Jun 1, 2022

Markov Chains and Monte Carlo Methods参考文献 66被引用 4

一句话总结

本文在较弱的光滑性条件下——(L₀, L₁)-光滑性——而非标准的L-光滑性假设下，建立了Stein变分梯度下降（SVGD）的收敛性。通过引入与轨迹无关的辅助条件，作者证明了KL散度的下降引理，并基于Stein-Fisher信息量导出了复杂度界，从而实现了对具有多项式势函数（如次数>2）分布的收敛性分析。

ABSTRACT

Stein Variational Gradient Descent (SVGD) is an important alternative to the Langevin-type algorithms for sampling from probability distributions of the form $π(x) \propto \exp(-V(x))$. In the existing theory of Langevin-type algorithms and SVGD, the potential function $V$ is often assumed to be $L$-smooth. However, this restrictive condition excludes a large class of potential functions such as polynomials of degree greater than $2$. Our paper studies the convergence of the SVGD algorithm for distributions with $(L_0,L_1)$-smooth potentials. This relaxed smoothness assumption was introduced by Zhang et al. [2019a] for the analysis of gradient clipping algorithms. With the help of trajectory-independent auxiliary conditions, we provide a descent lemma establishing that the algorithm decreases the $\mathrm{KL}$ divergence at each iteration and prove a complexity bound for SVGD in the population limit in terms of the Stein Fisher information.

研究动机与目标

• 将SVGD的理论收敛性分析从受限的L-光滑性假设推广至更一般的情形。
• 解决现有SVGD理论的局限性，即因L-光滑性要求而无法处理次数>2的多项式势函数。
• 在总体极限下，基于与轨迹无关的条件，建立KL散度的下降引理。
• 在放松的(L₀, L₁)-光滑性条件下，以Stein-Fisher信息量为度量，推导出SVGD的复杂度界。

提出的方法

• 引入较弱的光滑性条件——(L₀, L₁)-光滑性，受Zhang et al. (2019a) 启发，适用于多项式势函数。
• 定义与轨迹无关的辅助条件，避免在收敛性分析中依赖于特定路径的信息。
• 建立下降引理，证明在新光滑性条件下，KL散度在每次SVGD迭代中均减少。
• 将Stein-Fisher信息量作为关键量，推导出在总体极限下SVGD的收敛复杂度界。
• 利用Grönwall不等式，结合远端耗散性与逆多重二次核的弱收敛准则，确保收敛至目标测度。
• 将SVGD的变分形式视为在概率测度空间中对KL散度的梯度下降。

实验结果

研究问题

• RQ1 能否在弱于L-光滑性的条件下证明SVGD的收敛性？
• RQ2 SVGD中KL散度的下降是否可不依赖于与轨迹相关的假设？
• RQ3 在(L₀, L₁)-光滑性条件下，能否以Stein-Fisher信息量表达SVGD的复杂度界？
• RQ4 新框架是否允许对次数大于2的多项式势函数分布进行收敛性分析？
• RQ5 在放松的光滑性假设下，何种条件可确保SVGD迭代序列弱收敛至目标分布π？

主要发现

• 本文在(L₀, L₁)-光滑性条件下，证明了SVGD在总体极限下的下降引理，表明KL散度在每次迭代中均减少。
• 基于Stein-Fisher信息量，推导出SVGD的复杂度界，为新光滑性条件下的收敛速率提供了定量分析。
• 该分析覆盖更广泛的分布类别，包括次数>2的多项式势函数分布，这些分布此前在L-光滑性假设下被排除。
• Wasserstein-KL界中的常数依赖于维度，其中λ_BV ≥ 2d^{1/p}，对应于π(x) ∝ exp(−‖x‖^p)，表明存在维度依赖性。
• 在π满足远端耗散性且使用逆多重二次核的条件下，SVGD迭代序列的弱收敛性得以保证。
• 该框架消除了对路径相关轨迹条件的依赖，提升了收敛性分析的鲁棒性与普适性。