[論文レビュー] On Unifying Deep Generative Models

Zhiting Hu, Zichao Yang+2 more|arXiv (Cornell University)|Jun 2, 2017

Cellular Automata and Applications被引用数 75

ひとこと要約

本論文は、GANとVAEを統一的な枠組みで結びつけ、GANのサンプル生成を事後推論として再解釈し、クロスメソッドの技術転移を可能にする、統合的なフレームワークを提示する。

ABSTRACT

Deep generative models have achieved impressive success in recent years. Generative Adversarial Networks (GANs) and Variational Autoencoders (VAEs), as emerging families for generative model learning, have largely been considered as two distinct paradigms and received extensive independent studies respectively. This paper aims to establish formal connections between GANs and VAEs through a new formulation of them. We interpret sample generation in GANs as performing posterior inference, and show that GANs and VAEs involve minimizing KL divergences of respective posterior and inference distributions with opposite directions, extending the two learning phases of classic wake-sleep algorithm, respectively. The unified view provides a powerful tool to analyze a diverse set of existing model variants, and enables to transfer techniques across research lines in a principled way. For example, we apply the importance weighting method in VAE literatures for improved GAN learning, and enhance VAEs with an adversarial mechanism that leverages generated samples. Experiments show generality and effectiveness of the transferred techniques.

研究の動機と目的

• 1つの枠組みの下でGANとVAEの関連性を動機づけ、形式化する。
• GANとVAEが事後/推論分布の相反KLダイバージェンスを最小化することを示す。
• wake-sleepパラダイムを拡張して学習ダイナミクスを解釈・統一する。
• GANとVAE間で手法を相互移送し、相互作用を実証する（例: IWGAN, adversarial VAEs）。
• InfoGAN、AAE、CycleGAN などのGAN/VAEの変種を分析・拡張するための一般的なツールキットを提供する。

提案手法

• GANを、識別的な敵対的目的関数を用いた事後推論を行うと再定式化する。
• VAEを、偽サンプルを学習から排除する退化した敵対的機構として位置づける。
• 相反KLダイバージェンスを介してwake-sleepアルゴリズムへの形式的な結びつきを確立する。
• InfoGAN風のデータ増強を導入し、IWGANを周辺尤度のより緊密な境界として導出する。
• グラフィカルモデルを用いて、InfoGAN、AAE、CycleGAN などのさまざまなGAN/VAE変種が統一的な定式化に適合することを示す。
• KL/JSD項を通じた学習ダイナミクスとモード欠落の解析的洞察を提供する。

実験結果

リサーチクエスチョン

• RQ1 GANとVAEを単一の確率的枠組みで統一するにはどうすればよいか？
• RQ2 GAN/VAE学習におけるKLダイバージェンスと敵対的目的の正確な役割は何か？
• RQ3 VAEの手法（例: 重要度重み付け）をGANに、またその逆を改善できるか？
• RQ4 InfoGAN、AAE、CycleGANのような変種は統一的な定式化にどう適合するか？
• RQ5 統一的な見解の中でモード欠落の現象を説明する要因は何か？

主な発見

• GANはADA-inspiredフレームワーク内の事後推論として解釈できる。
• VAEは偽サンプルを学習から除外する退化した敵対的機構を持つとみなせる。
• IWGANはVAEsのIWAEに類似した周辺尤度のより厳密な境界をもたらす。
• 敵対的機構をVAEへ転移させ、生成サンプルを学習に活用できる。
• 統一的な見解は複数のGAN/VAE変種を統一し、技術の原理的な相互作用を促進する。
• KLダイバージェンスとJSD項による学習ダイナミクスの説明は、モードのカバーと最適化挙動を明確にする。