[論文レビュー] Variational Generative Stochastic Networks with Collaborative Shaping

Philip Bachman, Doina Precup|arXiv (Cornell University)|Aug 2, 2017

Generative Adversarial Networks and Image Synthesis参考文献 14被引用数 6

ひとこと要約

本論文では、変分オートエンコーダーをマルコフ連鎖に展開し、密度比ガイドを用いて軌道のずれを補正することで、生成モデルを訓練する「協調的形状付けを施した変分的生成確率的ネットワーク」を提案する。この手法は、MNISTおよびTFDデータセットにおいて最先端の性能を達成し、再構成と事後分布の複雑さのバランスをKL正則化によって保つことで、対応するGSNやGANを上回る対数尤度とサンプル品質を実現した。

ABSTRACT

We develop an approach to training generative models based on unrolling a variational auto-encoder into a Markov chain, and shaping the chain's trajectories using a technique inspired by recent work in Approximate Bayesian computation. We show that the global minimizer of the resulting objective is achieved when the generative model reproduces the target distribution. To allow finer control over the behavior of the models, we add a regularization term inspired by techniques used for regularizing certain types of policy search in reinforcement learning. We present empirical results on the MNIST and TFD datasets which show that our approach offers state-of-the-art performance, both quantitatively and from a qualitative point of view.

研究の動機と目的

• マルコフ連鎖の定常分布がターゲットとなるデータ分布と一致するように、生成モデルの訓練手法を開発すること。
• 密度比ガイドからのフィードバックを組み込むことで、従来のGSNやGANのアプローチを上回るサンプル品質と対数尤度を向上させること。
• 事後分布のKL発散を正則化することでモデルの複雑さを制御し、事後分布の崩壊を防ぎ、一般化性能を向上させること。
• データ多様体に沿った局所的に一貫性のあるランダムウォークと独立したサンプルの両方を効率的に生成できること。

提案手法

• 生成されたサンプルを再帰的にモデルに戻すことで、変分オートエンコーダーをマルコフ連鎖に展開する。
• モデルが生成する分布と実際のデータ分布の対数密度比を推定するガイド関数を導入し、軌道の協調的形状付けを可能にする。
• 標準のKL発散項を再重み付けした正則化された変分的目的関数を用い、事後分布の分散を制御し、事後分布の崩壊を防ぐ。
• 時間に沿った誤差逆伝播を用いてモデルを訓練し、無限データの極限において、モデル分布がターゲット分布と一致するように目的関数を最小化する。
• 推論および生成に深層ニューラルネットワークを用い、MNISTおよびTFDデータセットにこの手法を適用し、バリデーションセット上でハイパーパrameterを最適化する。
• ウォークバック手順を特別なケースとして採用し、密度比フィードバックと正則化を追加することで、安定性と性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 密度比ガイドによる協調的形状付けを施した場合、変分オートエンコーダーから構築されたマルコフ連鎖が、真のデータ分布に収束するか。
• RQ2 密度比ガイドを組み込むことで、標準のGANやGSNと比較して、サンプル品質と対数尤度はどの程度向上するか。
• RQ3 事後分布のKL正則化が、深層生成モデルにおける事後分布の崩壊をどの程度防ぎ、一般化性能を向上させるか。
• RQ4 提案手法は、独立したサンプルと、データ多様体に沿った局所的に一貫性のあるランダムウォークの両方を効率的に生成できるか。

主な発見

• MNISTデータセットでは、λ = 24の条件下でGPDE対数尤度スコアが330を達成し、先行手法を顕著に上回った。
• TFDデータセットでは、λ = 30の条件下でGPDEスコアが2130を達成し、過去の結果（2050および2110）を上回った。
• VAEベースラインとは異なり、本モデルは訓練の全期間にわたり高品質なサンプルを維持した。150kステップ目以降に事後分布の崩壊により、VAEベースラインは認識不能な数字を生成していた。
• VAEでは変分下界が増加し続け、GPDE下界が低下したが、これは一般化性能が悪いことを示しており、本手法では両指標が効果的にバランスを取った。
• 正則化項により、わずかに再構成精度が低下する代わりに、事後分布の分散を高めることで、事後分布の崩壊が効果的に抑制された。
• 定性的なサンプルでは、特に訓練の後期段階において、VAEおよびORKベースラインと比較して、より現実的で多様性に富んだ数字が生成された。