[論文レビュー] Scaling limit of the Stein variational gradient descent: the mean field regime

Jianfeng Lu, Yulong Lu+1 more|arXiv (Cornell University)|May 10, 2018

Markov Chains and Monte Carlo Methods参考文献 32被引用数 7

ひとこと要約

本稿は、スティン変分勾配降下法（SVGD）に内在する粒子系の平均場極限を確立し、N個の相互作用粒子の経験測度がN→∞のとき非局所的で非線形な偏微分方程式（PDE）の解に収束することを証明する。さらに、PDEの解についての全域的存在、一意性、正則性を確立し、長時間極限において解がターゲットのギブス測度に収束することを示す。

ABSTRACT

We study an interacting particle system in $\mathbf{R}^d$ motivated by Stein variational gradient descent [Q. Liu and D. Wang, NIPS 2016], a deterministic algorithm for sampling from a given probability density with unknown normalization. We prove that in the large particle limit the empirical measure of the particle system converges to a solution of a non-local and nonlinear PDE. We also prove global existence, uniqueness and regularity of the solution to the limiting PDE. Finally, we prove that the solution to the PDE converges to the unique invariant solution in long time limit.

研究の動機と目的

• スティン変分勾配降下法（SVGD）に裏付けられた相互作用粒子系の平均場極限を厳密に正当化すること。
• 制限された非局所的・非線形PDEの解についての全域的存在、一意性、正則性を証明すること。
• 粒子数N→∞のとき、粒子系の経験測度がPDEの解に収束することを確立すること。
• PDE解の長時間挙動を分析し、t→∞のとき不変ギブス測度ρ∞(x)∝e⁻ᵛ⁽ˣ⁾に収束することを証明すること。

提案手法

• Rᵈにおける粒子運動の形式的導出により、平均場PDE：∂ₜρ = ∇·(ρ(K∗(∇ρ + ∇V ρ))) を得る。
• 経験測度がPDE解に収束することを解析するため、Wasserstein-2距離と相対エントロピー（KLダイバージェンス）を用いる。
• フーリエ解析と正定値カーネルKの性質を応用し、KLダイバージェンスの長時間における減衰を研究する。
• スティン作用素Sₚφ = ∇logρ·φ + ∇·φを用いて、SVG Dアルゴリズムにおける最適速度場を特徴付ける。
• カーネルKを用いた再生核ヒルベルト空間（RKHS）構造を活用し、最適速度場をφ* ∝ ∫(∇logρ(x)K(x,·) + ∇ₓK(x,·))μ(dx)として明示的に表現する。
• カーネルKの正定値性および減衰性を活用し、確率測度空間におけるコンパクト性と弱収束の議論を用いて、平衡への収束を証明する。

実験結果

リサーチクエスチョン

• RQ1 SVGD粒子系の経験測度は、大N極限において確率的決定的PDEに収束するか？
• RQ2 制限されたPDEは、解の存在、一意性、正則性の観点で全域的に適切か？
• RQ3 制限されたPDEの解は、t→∞のとき、ターゲットのギブス測度ρ∞(x) = e⁻ᵛ⁽ˣ⁾/Zに弱収束するか？
• RQ4 エネルギー減衰構造を通じて、カーネルKが平衡への収束を保証する役割は何か？

主な発見

• 初期測度μ₀ᴺがρ₀に適切に収束する条件下で、N粒子系の経験測度μₜᴺはN→∞のとき、非局所的で非線形なPDEの解ρ(t,·)に法則的に収束する。
• 初期データが正則性クラス𝒴²₁,ⱽに属する限り、制限されたPDEは一意に存在し、滑らかな解を持つ。
• 相対エントロピーKL(ρₜ||ρ∞)はPDEフローに沿って単調に減少し、t→∞のとき∂ₜKL(ρₜ||ρ∞) → 0となる。
• カーネルKのフーリエ変換が消えないという仮定のもと、解ρ(t,·)はt→∞のとき弱収束して不変ギブス測度ρ∞(x) = e⁻ᵛ⁽ˣ⁾/Zに収束する。
• 部分列の議論とフーリエ変換を用いて、平衡への収束が確立され、極限測度は∇(eᵛ̄ρ) = 0を満たし、ρ̄ = Cρ∞となる。正規化によりC=1となる。
• カーネルKの正定値性および減衰性により、エネルギー散逸項∫∫(∇ρ + ∇Vρ)(x)·K(x−y)·(∇ρ + ∇Vρ)(y)dxdy → 0（t→∞）となることが保証され、これが平衡への収束を証明する上で鍵となる。