[論文レビュー] Auto-Encoding Variational Bayes

Diederik P. Kingma, Max Welling|UvA-DARE (University of Amsterdam)|Dec 20, 2013

Gaussian Processes and Bayesian Inference参考文献 15被引用数 15,549

ひとこと要約

再 parameterization トリック（SGVB）を用いた確率的変分推論フレームワークと、大規模データセットにスケールし、連続潜在変数の効率的推論を可能にするAuto-Encoding VB (AEVB) アルゴリズムを導入する。認識モデルとしてニューラルネットワークを用いると、これが変分オートエンコーダーを生み出す。

ABSTRACT

How can we perform efficient inference and learning in directed probabilistic models, in the presence of continuous latent variables with intractable posterior distributions, and large datasets? We introduce a stochastic variational inference and learning algorithm that scales to large datasets and, under some mild differentiability conditions, even works in the intractable case. Our contributions are two-fold. First, we show that a reparameterization of the variational lower bound yields a lower bound estimator that can be straightforwardly optimized using standard stochastic gradient methods. Second, we show that for i.i.d. datasets with continuous latent variables per datapoint, posterior inference can be made especially efficient by fitting an approximate inference model (also called a recognition model) to the intractable posterior using the proposed lower bound estimator. Theoretical advantages are reflected in experimental results.

研究の動機と目的

• 連続潜在変数を持つ有向確率モデルのための効率的な近似推論と学習を提供する。
• 高価なデータ点ごとの推論を必要とせず、扱いにくい事後分布と大規模データセットを扱う。
• 変分下界の低分散勾配推定を得るための再パラメータ化トリックを導入する。
• 認識モデルを生成モデルと同時に訓練する i.i.d. データセットフレームワーク（AEVB）を開発する。
• オートエンコーダーとの関連を強調し、画像データセットで実証する。

提案手法

• 周辺尤度の変分下界（ELBO）を導出し、それをKL項と再構成項に分解する。
• z を z = g_phi(epsilon, x) と再パラメータ化して、微分可能なモンテカルロ推定を可能にする SGVB 推定量を導入する。
• 2 つの SGVB 変種を示す: (A) 汎用推定量と (B) 勾配の分散を低くする KL 正則化推定量。
• ミニバッチ確率的勾配上昇を用いて、認識モデル q_phi(z|x) と生成モデル p_theta(x|z) を共同で学習する AEVB アルゴリズムを提案する。
• 連続潜在変数の場合、ガウス形のニューラルネットワークベースのエンコーダ q_phi(z|x) とガウス prior p_theta(z) を実装し、可能なところで closed-form の KL を有効にする。
• ミニバッチ訓練（N データ、M ミニバッチ）へ拡張し、最適化には Adagrad/SGD を活用する。

実験結果

リサーチクエスチョン

• RQ1 後部分布が求められない場合でも、連続潜在変数を持つ有向モデルで効率的な推論と学習を行えるか。
• RQ2 変分下限の再パラメータ化は、確率的最適化に適した微分可能で低分散の勾配推定量を生むか。
• RQ3 近似推論モデル（認識モデル）を生成モデルと同時に訓練して、データ点ごとの高速推論（AEVB）を実現できるか。
• RQ4 変分オートエンコーダー体系は、実データセット（例：MNIST、Frey Face）上で、wake-sleep や MCEM などの既存のオンライン学習法と比較してどのように機能するか。

主な発見

• SGVB 推定量は、標準的な確率勾配で最適化できる微分可能で無偏りの下界推定量を提供する。
• 認識モデル q_phi(z|x) と再パラメーションを用いることで、データ点ごとの効率的な推論と学習を実現し、AEVB アルゴリズムを生み出す。
• KL 項は正則化として機能し、再構成項はサンプリングによって推定され、しばしばデータ点あたり L=1 サンプルで行われる。
• AEVB はミニバッチで訓練可能で、大規模データセットにスケールし、実験では wake-sleep よりも収束が速く、下界が改善される。
• MNIST と Frey Face の実験は、変分正則化の影響で潜在変数を増やしても必ずしも悪化（または改善）しないことを示し、AEVB は競争力のある下界および周辺尤度推定を達成する。