[論文レビュー] SVGD as a kernelized Wasserstein gradient flow of the chi-squared divergence

Sinho Chewi, Thibaut Le Gouic+3 more|arXiv (Cornell University)|Jun 3, 2020

Adversarial Robustness in Machine Learning被引用数 7

ひとこと要約

本稿は、Stein Variational Gradient Descent (SVGD) を、KL 散発ではなくカイ二乗適合度の核化 Wasserstein 勾配流れとして再解釈し、Poincaré 不等式の下でより強い収束保証を可能にする。Laplacian Adjusted Wasserstein Gradient Descent (LAWGD) を提案し、ラプラシアンの固有値分解を用いることで、SVGD よりも一様な指数的エルゴドニシティと、より速く安定した収束を達成する。

ABSTRACT

Stein Variational Gradient Descent (SVGD), a popular sampling algorithm, is often described as the kernelized gradient flow for the Kullback-Leibler divergence in the geometry of optimal transport. We introduce a new perspective on SVGD that instead views SVGD as the (kernelized) gradient flow of the chi-squared divergence which, we show, exhibits a strong form of uniform exponential ergodicity under conditions as weak as a Poincar\\'e inequality. This perspective leads us to propose an alternative to SVGD, called Laplacian Adjusted Wasserstein Gradient Descent (LAWGD), that can be implemented from the spectral decomposition of the Laplacian operator associated with the target density. We show that LAWGD exhibits strong convergence guarantees and good practical performance.

研究の動機と目的

• KL 散発ではなくカイ二乗適合度の観点から SVGD を再フレームする事で、理論的理解を向上させること。
• Poincaré 不等式のような最小限の仮定の下で、一様な指数的エルゴドニシティを含む強い収束保証を確立すること。
• ラプラシアンの固有値分解を活用して安定的かつ効率的な粒子の進化を実現する新しいサンプリングアルゴリズム、LAWGD の開発。
• ターゲット測度の下で核演算子が恒等演算子に近づくようにする、SVGD のための原理的核選択ルールの提示。
• 実験的に、LAWGD が一定ステップサイズ下でより速く収束し、SVGD で一般的に見られる不安定性の問題を回避することの実証。

提案手法

• SVGD を Wasserstein 空間におけるカイ二乗適合度の核化勾配流れとして再解釈し、$\mathcal{K}_{\mu_t}$ の代わりに単一の積分演算子 $\mathcal{K}_{\pi}$ を用いる。
• ターゲット密度 $\pi$ に関連するシュレーディンガー作用素の固有値分解を用いて核を定義する新しいアルゴリズムである LAWGD を提案。
• 実際の計算では、自動微分を用いてポテンシャル $V$ のラプラシアンと勾配を計算し、シュレーディンガー作用素を構築。
• 核演算子の構築に、ラプラシアンの固有関数（1次元ではエルミート多項式など）を基底関数として用いる。
• 固定ステップサイズスキームを採用し、粒子の動的挙動をカイ二乗適合度の核化勾配流れに従わせる。
• 2次元では有限差分法を用いてラプラシアンを近似し、数値的安定性と正確な勾配計算を確保する。

実験結果

リサーチクエスチョン

• RQ1 SVGD を KL 散発ではなくカイ二乗適合度の勾配流れとして再解釈することは可能か？その理論的含意は何か？
• RQ2 この新しい視点により、Poincaré 不等式のような弱い仮定の下で、一様な指数的エルゴドニシティのようなより強い収束保証が得られるか？
• RQ3 この視点に基づいて、収束速度と安定性の面で SVGD を上回る新しいサンプリングアルゴリズムを設計できるか？
• RQ4 この新しい枠組み下で、SVGD の最適な核選択は何か？そして、それを体系的に導出できるか？
• RQ5 提案された LAWGD アルゴリズムは、一定ステップサイズ下で実際の SVGD と比較してどのように異なるか？

主な発見

• Poincaré 不等式の下では、カイ二乗適合度の勾配流れは一様に指数的かつ高速に収束し、忘れの時間は Poincaré 定数の半分で有界である。
• 本手法は一様な指数的エルゴドニシティを達成しており、初期分布が有限時間内に消失する。その時間は Poincaré 定数にのみ依存する。
• 一定ステップサイズ下で、LAWGD は SVGD よりも収束が速く、粒子の発散問題を回避するという点でより安定している。
• 2000 回の反復で、LAWGD はマルチモーダルな 2D ガウス混合分布からのサンプリングに成功したが、一定ステップサイズの SVGD は安定化に失敗した。
• 実験では、LAWGD の粒子は速やかに最終位置に到達し、安定化するのに対し、SVGD の粒子は一定ステップサイズ下で引き続き漂移または発散を示した。
• 理論的解析により、カイ二乗適合度は $\exp(-t/C_{\mathsf{LSI}})$ よりも速やかに減少することが示され、log-Sobolev および Poincaré 条件の下で明示的な境界が得られた。