[論文レビュー] Generative Latent Flow: A Framework for Non-adversarial Image Generation.

Zhisheng Xiao, Qing Yan+2 more|arXiv (Cornell University)|May 24, 2019

Generative Adversarial Networks and Image Synthesis参考文献 16被引用数 11

ひとこと要約

Generative Latent Flow (GLF) は、オートエンコーダーとノーマライジングフローを組み合わせた非敵対的生成モデルを提案する。このモデルは、潜在分布を単純なノイズに明示的にマッピングすることで、オートエンコーダーに基づくモデルの中で最先端のサンプル品質を達成し、GANと同等の性能を発揮する。また、1段階の高速なトレーニングと最小限の再構成トレードオフを実現する。

ABSTRACT

In this work, we propose the Generative Latent Flow (GLF), an algorithm for generative modeling of the data distribution. GLF uses an Auto-encoder (AE) to learn latent representations of the data, and a normalizing flow to map the distribution of the latent variables to that of simple i.i.d noise. In contrast to some other Auto-encoder based generative models, which use various regularizers that encourage the encoded latent distribution to match the prior distribution, our model explicitly constructs a mapping between these two distributions, leading to better density matching while avoiding over regularizing the latent variables. We compare our model with several related techniques, and show that it has many relative advantages including fast convergence, single stage training and minimal reconstruction trade-off. We also study the relationship between our model and its stochastic counterpart, and show that our model can be viewed as a vanishing noise limit of VAEs with flow prior. Quantitatively, under standardized evaluations, our method achieves state-of-the-art sample quality among AE based models on commonly used datasets, and is competitive with GANs' benchmarks.

研究の動機と目的

• オートエンコーダーに基づく生成モデリングにおける密度マッチングを改善する非敵対的生成モデルの開発。
• 潜在分布と事前分布の間のマッピングを明示的にモデル化することで、ヒューリスティックな正則化項の必要性を排除すること。
• 再構成品質を損なうことなく、高速な収束と1段階のトレーニングを達成すること。
• 提案されたモデルと流れ付き変分オートエンコーダー（VAE）との理論的関係を確立すること。

提案手法

• モデルは、入力データからコンactな潜在表現を学習するためオートエンコーダーを用いる。
• ノーマライジングフローを適用して、学習された潜在分布を単純で取り扱いやすい事前分布（例：等方的ガウス分布）に変換する。
• フロー構造により、正確な尤度計算と可逆写像が可能となり、正確な密度マッチングが保証される。
• トレーニング目的関数は、再構成損失を最小化し、フロー正則化された潜在分布下での尤度を最大化することを目的とする。
• モデルは1段階のトレーニングで学習され、敵対的または正則化されたVAEで一般的に見られる反復的最適化スキームを回避する。
• 理論的分析により、GLF が流れ付きVAEの消えるノイズの極限に一致することが示され、既存の変分フレームワークと原理的につながる。

実験結果

リサーチクエスチョン

• RQ1 ノーマライジングフローによる明示的な密度マッチングは、ヒューリスティックな正則化に依存せずに、オートエンコーダーに基づく生成モデルのサンプル品質を向上させることができるか？
• RQ2 提案されたモデルは、既存のオートエンコーダー基盤およびGAN基盤の手法と比較して、トレーニング速度、収束性、再構成品質においてどのように異なるか？
• RQ3 消えるノイズの極限において、GLF と流れ付きVAEとの理論的関係は何か？
• RQ4 GLF には敵対的トレーニングが存在しないため、モード崩壊を起こさずに安定的かつ高品質な生成が可能になるか？

主な発見

• GLF は、標準的なベンチマークデータセットにおいて、オートエンコーダー基盤の生成モデルの中で最先端のサンプル品質を達成した。
• モデルは高速な収束と1段階のトレーニングを示し、GANで一般的に見られるトレーニングの不安定性を回避した。
• GLF は再構成のトレードオフが最小限に抑えられ、高精細な再構成と同時にリアルなサンプルの生成を維持した。
• 定量的評価により、敵対的トレーニングを用いないにもかかわらず、GLF が GAN のベンチマークと同等のサンプル品質を達成することが確認された。
• 理論的分析により、GLF が流れ付きVAEの消えるノイズの極限に一致することが確認され、既存の変分フレームワークと原理的につながる。
• ノーマライジングフローによる明示的な密度マッチングは、正則化されたVAEと比較して、より良い尤度推定と正確なデータ分布モデリングを実現した。