[論文レビュー] Annealed Stein Variational Gradient Descent

Francesco D’Angelo, Vincent Fortuin|arXiv (Cornell University)|Jan 24, 2021

Diffusion and Search Dynamics参考文献 21被引用数 9

ひとこと要約

本稿では、サンプリング中にターゲット分布の温度を動的に調整することで、多次元分布におけるモードカバレッジを向上させる決定的アニーリング戦略、Annealed Stein Variational Gradient Descent (A-SVGD) を提案する。サイクリックまたは双曲線的アニーリングスケジュールを適用することで、A-SVGD は粒子の多様性を高め、すべてのモードおよびそれらの相対的重みを正確に近似可能となり、多次元設定において標準的な SVGD より顕著に優れた性能を示す。

ABSTRACT

Particle based optimization algorithms have recently been developed as sampling methods that iteratively update a set of particles to approximate a target distribution. In particular Stein variational gradient descent has gained attention in the approximate inference literature for its flexibility and accuracy. We empirically explore the ability of this method to sample from multi-modal distributions and focus on two important issues: (i) the inability of the particles to escape from local modes and (ii) the inefficacy in reproducing the density of the different regions. We propose an annealing schedule to solve these issues and show, through various experiments, how this simple solution leads to significant improvements in mode coverage, without invalidating any theoretical properties of the original algorithm.

研究の動機と目的

• 多次元分布におけるモード崩壊問題（粒子が僅か数個の局所的モードに収束する現象）を解消すること。
• 多次元分布における異なるモードの相対的密度重みを再現する能力を、SVGD が向上させること。
• 決定的アニーリングスケジュールが、有限粒子数の SVGD における粒子の多様性と収束性を向上させるかどうかを調査すること。
• サイクリックおよび双曲線的アニーリングスケジュールが、標準的な SVGD の限界を克服する有効性を評価すること。

提案手法

• 温度調整（平坦化）されたターゲット分布から真のターゲット分布へ段階的に移行する決定的アニーリングスケジュールを導入する。
• 温度パラメータ γ(t) を用い、ターゲット密度を p_γ(x) ∝ p(x)^γ(t) としてモデリングし、時間とともに γ(t) を増加させる。
• サイクリックアニーリングスケジュールを γ(t) = (mod(t, T/C) / (T/C))^p として定義し、探索的フェーズと収束フェーズを交互に繰り返す。
• 双曲正接に基づくスケジュールを適用：γ(t) = tanh[(1.3t/T)^p] により、探索から精錬への移行を加速する。
• 各時刻で元の SVGD 更新ルールを温度調整されたターゲット分布に適用する。
• 標準的な RBF カーネルを SVGD 更新に用い、反発力項により粒子の多様性を促進する。

実験結果

リサーチクエスチョン

• RQ1 SVGD を用いた際、ターゲット分布をアニーリングすることで、多次元分布におけるモードカバレッジが向上するか？
• RQ2 線形、双曲線的、サイクリックなアニーリングスケジュールの選択が、SVGD における粒子の多様性と収束性に与える影響は？
• RQ3 アニーリングが、有限粒子数の SVGD におけるモード崩壊問題をどの程度緩和できるか？
• RQ4 A-SVGD は、標準的な SVGD よりも多次元成分の相対混合重みをよりよく回復できるか？

主な発見

• 一変量のガウス混合分布における5つのモードすべてを A-SVGD がカバーするが、標準的な SVGD は1つのモードに収束する。
• 2次元の16モードガウス混合分布において、A-SVGD は初期化に依存せずすべてのモードを特定・特徴付けられるが、標準的な SVGD は4つの近接したモードに閉じ込められる。
• 初期化を正確に1つのモード内においても、A-SVGD はすべてのモードをカバーするが、標準的な SVGD はその1つのモードに閉じ込められる。
• 実験全体を通して、サイクリックアニーリングスケジュールが線形および双曲線的スケジュールを上回り、モードカバレッジと重み回復の両面で優れた性能を示す。
• A-SVGD は2次元ガウス分布の相対混合重みを正確に回復するが、標準的な SVGD は正しい密度比を表現できない。
• A-SVGD は SVGD の理論的保証を維持しつつ、多次元ターゲットにおける実験的性能を顕著に向上させる。