[論文レビュー] Stein Variational Gradient Descent: A General Purpose Bayesian Inference Algorithm

Qiang Liu, Dilin Wang|arXiv (Cornell University)|Aug 15, 2016

Gaussian Processes and Bayesian Inference参考文献 30被引用数 280

ひとこと要約

一般用途の変分推論手法で、RKHSにおける機能勾配降下により一群の粒子をターゲット後側分布へ移動させ、KL発散とStein差異を結びつけて効率的なベイズ推論を実現する。

ABSTRACT

We propose a general purpose variational inference algorithm that forms a natural counterpart of gradient descent for optimization. Our method iteratively transports a set of particles to match the target distribution, by applying a form of functional gradient descent that minimizes the KL divergence. Empirical studies are performed on various real world models and datasets, on which our method is competitive with existing state-of-the-art methods. The derivation of our method is based on a new theoretical result that connects the derivative of KL divergence under smooth transforms with Stein's identity and a recently proposed kernelized Stein discrepancy, which is of independent interest.

研究の動機と目的

• 広範なモデルとデータセットに適用可能な、一般的で使いやすい変分推論ツールを作る動機。
• 複数の粒子を用いた効率的でスケーラブルな後分布近似を可能にする、全ベイズ推論のための勾配降下に似た挙動を持つ手法を開発する。
• 滑らかな変換の下でのKL発散の導関数とStein差異との principled な結びつきを提供し、最適な摂動方向を導く。
• 明示的なパラメトリック変換形やヤコビ行列計算を必要としない、実装可能な実用アルゴリズムを提供する。

提案手法

• 滑らかで可逆な変換により形成される変分ファミリを、扱いやすい基底分布に適用して作成する。
• KL発散の小さな変換摂動に対する導関数が、摂動に対してStein演算子を適用したものであることを導出する。
• カーネル化されたStein差異を用いてRKHS内の最適な摂動方向の閉形式を得、実用的な更新ルールを可能にする。
• x <- x + epsilon * phi*(x) によって粒子を更新する反復的な粒子ベースアルゴリズムを開発し、phi*(x) はすべての粒子とスコア勾配を用いたカーネルに基づいて計算される。
• Algorithm 1 を提示し、各粒子を、対数密度勾配とカーネル勾配の加重和で更新して、粒子を目標pへ収束させる。
• 大規模データセットに対するミニバッチ処理やカーネル行列計算を含む計算上の考慮事項を論じ、効率とスケーラビリティのための戦略を示す。

実験結果

リサーチクエスチョン

• RQ1 大規模データセットと複雑なモデルにスケールする、一般的で勾配降下に似た変分推論アルゴリズムを開発できるか。
• RQ2 Steinの恒等式とカーネル化されたStein差異を用いて、滑らかなデータ変換を通じたKL発散の最適化をどのように運用するか。
• RQ3 反発性があるが収束する粒子ベースのスキームが、サンプルの多様性を維持しつつ正確な後分布近似を提供できるか。
• RQ4 単一粒子でMAPに縮約でき、複数粒子で全ベイズ推論へと一般化できるか。

主な発見

• Stein演算子は、滑らかな変換下でのKL発散導関数を、カーネル化Stein差異（KSD）へ接続し、最適な摂動方向を閉形式で得られることを示す。
• RKHS内での方向により反復的な滑らかな変換を用いて基底分布をターゲット後分布へ移送し、KL降下を達成する手順。
• 提案されたSVGDアルゴリズムは、粒子を1粒子でMAP推論へ縮約でき、複数粒子で全ベイズ推論へと一般化でき、収束を阻害する崩壊を防ぐ反発力を維持する。
• 経験的な結果は、ベイズロジスティック回帰やベイズニューラルネットワークなどのタスクで、最先端のベースラインと競合する性能を示し、精度と効率の点で有利な比較を得ている。