[論文レビュー] A Stein variational Newton method

Gianluca Detommaso, Tiangang Cui+3 more|arXiv (Cornell University)|Jun 8, 2018

Markov Chains and Monte Carlo Methods参考文献 28被引用数 42

ひとこと要約

本論文は、サンプラーに2階の情報（ニュートン様情報）を組み込むことでStein変分勾配降下法を拡張し、収束を加速する幾何意識カーネルを用いたStein変分ニュートン（SVN）法を導入する。

ABSTRACT

Stein variational gradient descent (SVGD) was recently proposed as a general purpose nonparametric variational inference algorithm [Liu & Wang, NIPS 2016]: it minimizes the Kullback-Leibler divergence between the target distribution and its approximation by implementing a form of functional gradient descent on a reproducing kernel Hilbert space. In this paper, we accelerate and generalize the SVGD algorithm by including second-order information, thereby approximating a Newton-like iteration in function space. We also show how second-order information can lead to more effective choices of kernel. We observe significant computational gains over the original SVGD algorithm in multiple test cases.

研究の動機と目的

• 難しいターゲット分布に対するノンパラメトリック変分推論の加速を動機づける
• 輸送写像の関数空間にニュートン様反復を導入する
• 2次情報を活用してカーネル選択と粒子の動きを改善する
• 再生核ヒルベルト空間(RKHS)でニュートン方向を計算するスケーラブルな近似を提案する
• 実験を通じて計算効率の向上とカーネル設計の利点を示す

提案手法

• KL目的関数の局所2次近似を最小化するよう、輸送写像空間にニュートン様方向を定義する
• 有限次元線形系を介してニュートン方向を計算するガレキン（カーネル）表現を導出する
• スケーラビリティのための非正確ニュートン-CGおよびブロック対角ヘッセ行列近似を導入する
• 平均ヘッセ行列 M_p を用いてRKHS内の距離を適応させる幾何意識的異方性カーネルを開発する
• SVGDとSVNの反復をそれぞれ詳述するアルゴリズム1とアルゴリズム2を提供する
• 高次元問題のため、ヘッセ行列ベースのカーネル正規化（g(d)係数）を用いたスケーリングとカーネル選択について議論する

実験結果

リサーチクエスチョン

• RQ1 2次情報はStein変分法を用いたサンプリングの収束を加速できるか？
• RQ2 高確率領域での輸送を改善するように曲率情報を組み込むカーネルをどのように設計できるか？
• RQ3 降下性を保ちつつ計算を減らすスケーラブルな近似（ブロック対角、非正確ニュートン）は何か？
• RQ4 幾何意識カーネルは難しいベイズ推論タスクにおいて等方カーネルより優れているか？

主な発見

• 検査ケースにおいて、2次情報を持つSVNは標準SVGDより収束が速い
• 幾何意識ヘッセカーネルは収束速度と粒子分布を著しく改善する
• ブロック対角および非正確ニュートン-CG近似は、イテレーションあたりの進捗が類似したスケーラブルな代替を提供する
• スケールされたヘッセカーネルは高次元設定で頑健な性能を維持するのに役立つ
• SVN-H（ヘッセカーネルを用いたニュートン）は高次元拡散テストで正確な事後平均と信用区間を達成する
• Langevin SDEの例で参照MCMCと良い一致を示す