[論文レビュー] Variational Approaches for Auto-Encoding Generative Adversarial Networks

Mihaela Rosca, Balaji Lakshminarayanan+2 more|arXiv (Cornell University)|Jun 15, 2017

Generative Adversarial Networks and Image Synthesis参考文献 40被引用数 247

ひとこと要約

本論文は、変分オートエンコーダーとGANの体系的なハイブリッド（alpha-GAN）を、識別器を介して学習される合成尤度と暗黙的後方分布を用いて提案し、VAEの安定性とGANのシャープさを組み合わせることを目指し、DC-GAN、WGAN-GP、AGEと比較評価を行う。

ABSTRACT

Auto-encoding generative adversarial networks (GANs) combine the standard GAN algorithm, which discriminates between real and model-generated data, with a reconstruction loss given by an auto-encoder. Such models aim to prevent mode collapse in the learned generative model by ensuring that it is grounded in all the available training data. In this paper, we develop a principle upon which auto-encoders can be combined with generative adversarial networks by exploiting the hierarchical structure of the generative model. The underlying principle shows that variational inference can be used a basic tool for learning, but with the in- tractable likelihood replaced by a synthetic likelihood, and the unknown posterior distribution replaced by an implicit distribution; both synthetic likelihoods and implicit posterior distributions can be learned using discriminators. This allows us to develop a natural fusion of variational auto-encoders and generative adversarial networks, combining the best of both these methods. We describe a unified objective for optimization, discuss the constraints needed to guide learning, connect to the wide range of existing work, and use a battery of tests to systematically and quantitatively assess the performance of our method.

研究の動機と目的

• GANの階層的潜在構造を用いて、オートエンコーダとGANの体系的な融合を動機づけ、正式化する。
• 潜在尤度が求めにくい状況で、それを合成尤度に置き換え、後方分布を暗黙的識別器で表現する変分フレームワークを開発する。
• 再構成、合成尤度、潜在コード判別を統合した統一的な alpha-GAN 目的関数を提案する。
• 再構成を可能にしつつ学習を安定化しモード崩壊を防ぐ実践的な学習戦略を提供する。

提案手法

• 密度比のテクニックと識別器を用いて、暗黙的後方を持つ変分推論を実行する。
• 計算困難な尤度を、識別器ベースの密度比で学習された合成尤度に置換する。
• L1損失を用いた明示的な再構成項と、合成尤度識別器を介した対立的再構成項を導入する。
• エンコーダ出力を事前分布と揃える潜在空間識別器を組み込む。
• 再構成、合成尤度、潜在コード一致を組み合わせたハイブリッド目的関数（alpha-GAN）を定式化する。
• トレーニングの改善: 飽和を避ける逆KL更新と、偽データと再構成の両方に対して単一の識別器を共有することを提案する。

実験結果

リサーチクエスチョン

• RQ1 暗黙的後方と合成尤度を用いて、変分推論をGANと効果的に統合できるか。
• RQ2 オートエンコーダの再構成損失と対向訓練を組み合わせることで、事前学習なしでモードカバレッジとサンプル品質の向上につながるか。
• RQ3 標準データセットにおける再構成・生成タスクで、alpha-GANはDC-GAN、WGAN-GP、AGEとどう比較されるか。
• RQ4 alpha-GANの最適化を安定化し、忠実な再構成を支える実践的な学習戦略は何か。

主な発見

• Alpha-GANは、いくつかのデータセットで最先端のGAN派生およびAGEと競合する結果を達成する。
• このモデルは入力の再構成を提供し、ベーシックなGANの重要な制約を解決する。
• Alpha-GANの評価では、サンプル品質とモードカバレッジを評価するために、独立ワッサースタイン判定器やインセプションスコアを含む一連の指標を用いる。
• 再構成項はモード崩壊を緩和し、対抗的要素はサンプルのリアリズムを向上させる。
• 生成器、エンコーダ、識別器間のアーキテクチャ選択と更新比は、性能と安定性に大きく影響する。
• 評価ネットワークが異なると、画像品質指標間に重要でない差ではなく非自明な差が生じることを比較は強調している（ImageNetネットとCIFAR-10ネット）。