[論文レビュー] Stochastic Gradient VB and the Variational Auto-Encoder

Diederik P. Kingma, Max Welling|arXiv (Cornell University)|Dec 20, 2013

Gaussian Processes and Bayesian Inference参考文献 17被引用数 232

ひとこと要約

この論文では、独立なノイズ変数を用いて変分下界を再パラメータ化することにより、勾配ベースの最適化が可能になるスケーラブルなアルゴリズムであるStochastic Gradient Variational Bayes（SGVB）を導入する。これにより、確率的ノードを介したエンドツーエンドのバックプロパゲーションが可能になり、正確な事後分布が得られない場合や大規模データセットを扱う場合でも、生成モデルと認識モデルの両方を勾配ベースで最適化できる。

ABSTRACT

Can we efficiently learn the parameters of directed probabilistic models, in the presence of continuous latent variables with intractable posterior distributions, and large datasets? We introduce an unsupervised on-line learning algorithm that efficiently optimizes the variational lower bound on the marginal likelihood and that, under some mild conditions, even works in the intractable case. The algorithm, Stochastic Gradient Variational Bayes (SGVB), optimizes a probabilistic encoder (also called a recognition model) to approximate the intractable posterior distribution of the latent variables. Crucial is a reparameterization of the variational bound with an independent noise variable, yielding a stochastic objective function which can be jointly optimized w.r.t. variational and generative parameters using standard gradient-based stochastic optimization methods. Theoretical advantages are reflected in experimental results.

研究の動機と目的

• 連続的な潜在変数と正確な事後分布が得られない確率的有向モデルにおけるパラメータ学習の課題に対処すること。
• 大規模データセットに適した効率的でオンライン学習可能なアルゴリズムを開発すること。
• 勾配ベースの手法を用いて生成モデルと変分（認識）モデルを同時に最適化できること。
• 正確な事後分布推論が不可能であっても、理論的裏付けのある方法を提供すること。

提案手法

• モデルパラメータに関して微分可能となるように、独立なノイズ変数を用いて変分下界を再パラメータ化する。
• ノイズ変数に依存する確率的目的関数を構築し、確率的勾配降下法で最適化可能にする。
• 確率的計算グラフを介したバックプロパゲーションを用いて、生成モデルと認識モデルの両方のパラメータを同時に更新する。
• 変分下界を最小化するために、標準的な確率的最適化手法を適用する。
• 真の事後分布が正確に計算できない場合でも、弱い正則性条件のもとで有効であることを保証する。

実験結果

リサーチクエスチョン

• RQ1 連続的な潜在変数に対して正確な事後分布が得られない状況下でも、変分下界を効率的に最適化できるか？
• RQ2 生成モデルと認識モデルを勾配ベースの手法を用いてエンドツーエンドで学習できるか？
• RQ3 再パラメータ化トリックが、大規模な設定において効果的かつスケーラブルな学習を可能にするか？
• RQ4 正確な事後分布推論が計算的に不可能であっても、この手法は頑健で効果的か？

主な発見

• SGVBアルゴリズムにより、確率的勾配降下法を用いて変分オートエンコーダーの効率的でスケーラブルな学習が可能になった。
• 再パラメータ化トリックにより、確率的ノードを介したバックプロパゲーションが可能となり、生成モデルと認識モデルの共同最適化が現実可能になった。
• 正確な事後分布が得られないにもかかわらず、大規模データセットにおいて良好な性能を発揮した。
• 理論的分析により、正確な事後分布計算が不可能であっても、弱い条件下で有効であることが示された。