[論文レビュー] Convergence of Stein Variational Gradient Descent under a Weaker Smoothness Condition

Lukang Sun, Avetik Karagulyan+1 more|arXiv (Cornell University)|Jun 1, 2022

Markov Chains and Monte Carlo Methods参考文献 66被引用数 4

ひとこと要約

本稿は、標準的な L-スムーズ性仮定の代わりに弱い滑らかさ条件である (L₀, L₁)-スムーズ性を用いて、Stein変分勾配降下法（SVGD）の収束を確立する。経路に依存しない補助的条件を導入することで、KL発散に関する降下補題を証明し、Steinフィッシャー情報に基づく複雑度バウンドを導出し、多項式型ポテンシャル（次数 >2）を持つ分布の収束解析を可能にする。

ABSTRACT

Stein Variational Gradient Descent (SVGD) is an important alternative to the Langevin-type algorithms for sampling from probability distributions of the form $π(x) \propto \exp(-V(x))$. In the existing theory of Langevin-type algorithms and SVGD, the potential function $V$ is often assumed to be $L$-smooth. However, this restrictive condition excludes a large class of potential functions such as polynomials of degree greater than $2$. Our paper studies the convergence of the SVGD algorithm for distributions with $(L_0,L_1)$-smooth potentials. This relaxed smoothness assumption was introduced by Zhang et al. [2019a] for the analysis of gradient clipping algorithms. With the help of trajectory-independent auxiliary conditions, we provide a descent lemma establishing that the algorithm decreases the $\mathrm{KL}$ divergence at each iteration and prove a complexity bound for SVGD in the population limit in terms of the Stein Fisher information.

研究の動機と目的

• ポテンシャル関数 V に対する制限の強い L-スムーズ性仮定を超えて、SVGD の理論的収束解析を拡張すること。
• 既存の SVGD 理論が L-スムーズ性要件のため、次数 >2 の多項式型ポテンシャルを含まないという限界を克服すること。
• 経路に依存しない条件を用いて、母集団極限における KL 発散の降下補題を確立すること。
• 緩和された (L₀, L₁)-スムーズ性条件下で、Stein フィッシャー情報に基づく SVGD の複雑度バウンドを導出すること。

提案手法

• Zhang ら (2019a) のインスピレーションを受けて、多項式型ポテンシャルに適用可能な弱い滑らかさ条件 (L₀, L₁)-スムーズ性を導入する。
• 収束解析において経路に依存する情報に依存しないように、経路に依存しない補助的条件を定義する。
• 新しい滑らかさ条件下で、各 SVGD ステップにおいて KL 発散が減少することを示す降下補題を確立する。
• 母集団極限における収束の複雑度バウンドを導出するために、Stein フィッシャー情報を主要な量として用いる。
• Grönwall の不等式と、距離分散性および逆多項式カーネルを用いた弱収束基準を活用し、標本分布への収束を保証する。
• SVGD を確率測度の空間における KL 発散の勾配降下としての変分的定式化を適用する。

実験結果

リサーチクエスチョン

• RQ1 L-スムーズ性より弱い滑らかさ条件下で、SVGD が収束することを証明できるか？
• RQ2 経路依存の仮定に依存せずに、SVGD における KL 発散の低下が成立するか？
• RQ3 (L₀, L₁)-スムーズ性下で、Stein フィッシャー情報に基づく SVGD の複雑度バウンドを表現できるか？
• RQ4 新しい枠組みにより、次数が 2 を超える多項式型ポテンシャルを持つ分布の収束解析が可能になるか？
• RQ5 緩和された滑らかさ仮定下で、SVGD の反復が標本分布 π へ弱収束するための条件は何か？

主な発見

• 本稿は、(L₀, L₁)-スムーズ性下で母集団極限における SVGD に対して降下補題を証明し、各反復で KL 発散が減少することを示した。
• Stein フィッシャー情報に基づく複雑度バウンドが導出され、新しい滑らかさ条件下での定量的収束レートが得られた。
• 解析の範囲は、L-スムーズ性仮定下で除外されていた、次数 >2 の多項式型ポテンシャルを持つ分布を含む、より広い分布クラスをカバーした。
• Wasserstein-KL バウンドの定数は次元に依存し、π(x) ∝ exp(−‖x‖^p) の場合、λ_BV ≥ 2d^{1/p} となることが示唆され、次元依存性が生じる可能性がある。
• 標本分布 π に対する距離分散性と逆多項式カーネルの使用により、SVGD の反復が弱収束することを保証した。
• 経路に依存する軌道条件の必要性が排除され、収束解析の堅牢性と一般性が向上した。