[論文レビュー] On the geometry of Stein variational gradient descent

A. Duncan, N. Nuesken+1 more|arXiv (Cornell University)|Dec 2, 2019

Markov Chains and Monte Carlo Methods参考文献 83被引用数 39

ひとこと要約

本論文は Stein Variational Gradient Descent (SVGD) を Stein幾何上の勾配流として捉え、二階微分計算による収束性を分析し、非微分可能な尾部を含むカーネル設計指針を展開し、数値実験によって裏付けている。

ABSTRACT

Bayesian inference problems require sampling or approximating high-dimensional probability distributions. The focus of this paper is on the recently introduced Stein variational gradient descent methodology, a class of algorithms that rely on iterated steepest descent steps with respect to a reproducing kernel Hilbert space norm. This construction leads to interacting particle systems, the mean-field limit of which is a gradient flow on the space of probability distributions equipped with a certain geometrical structure. We leverage this viewpoint to shed some light on the convergence properties of the algorithm, in particular addressing the problem of choosing a suitable positive definite kernel function. Our analysis leads us to considering certain nondifferentiable kernels with adjusted tails. We demonstrate significant performance gains of these in various numerical experiments.

研究の動機と目的

• SVGD の平均場極限を Stein 幾何上の勾配流として定式化する。
• 収束性を理解するための二階微分計算を開発し、指数減衰を導く関数解析的条件を同定する。
• SVGD の性能を改善するためのカーネル設計指針を導出し、非微分可能なカーネルと尾部の調整を扱う。

提案手法

• RKHS カーネルにより誘導される確率測度空間に接空間構造とリーマン計量を定義する。
• 測地線と Stein-Hessian の性質を特徴づけ、SVGD 下の KL 発散の凸性と収束性を研究する。
• 平衡付近で指数収束を含意する汎関数不等式の形で条件を確立する。
• Stein 幾何に導かれた、特に特異的または非滑らかな尾部を持つカーネル選択を提案・分析する。
• 勾配流の視点を通じて SVGD を過減衰 Langevin ダイナミクスに結びつけ、直感と比較を行う。
• カーネル選択と性能に関する理論的指針を検証するための数値実験を提供する。

実験結果

リサーチクエスチョン

• RQ1 カーネルと Stein 幾何のどの条件が SVGD のターゲット後分布への指数収束を保証するか。
• RQ2 SVGD の収束を分析しカーネル設計を通知するために、勾配流構造（Stein 幾何）をどのように定式化し活用できるか。
• RQ3 尾部を調整した非微分可能なカーネルは経験的性能を改善するのか、どの理論的枠組みの下で？
• RQ4 SVGD の平均場極限が確率測度空間の勾配流とどのように関連するか、実装にどのような洞察を提供するか。
• RQ5 安定性と高速収束を保証するカーネル選択の実用的指針は何か。

主な発見

• SVGD は Stein 幾何上の KL 発散の勾配流として定式化でき、対応する測地構造を持つ。
• 二階微分計算により、エントロピーのみを用いると、Wasserstein 系と同様の指数収束界が一般には得られず、Stein-Hessian アプローチの限界を示す。
• RKHS カーネルに結びつく汎関数解析的条件は、適切な不等式の下で平衡付近の指数減衰と等価になる可能性がある。
• 収束特性を改善するためのカーネル選択の指針を導出し、正規性と尾部挙動を重視する。
• 解析結果と数値結果は、推論タスクで尾部を調整した特異カーネルを用いると顕著な性能向上を示す。