[論文レビュー] Learning the Base Distribution in Implicit Generative Models

Y. Cem Sübakan, Oluwasanmi Koyejo+1 more|arXiv (Cornell University)|Mar 12, 2018

Generative Adversarial Networks and Image Synthesis参考文献 13被引用数 10

ひとこと要約

この論文は、潜在空間における複雑な基本分布を学習することで、敵対的訓練を伴わない最大尤度を最大化することにより、VAE や GAN よりも優れた性能を達成する2段階手法を提案する。このアプローチは、基本分布の学習をニューラルネットワークエンコーダーから分離することで、画像や順序付き音声のような複雑なデータ分布のより正確なモデリングを可能にし、MNIST、CELEBA、音声、音楽データセットにおいて実証的な向上効果を示す。

ABSTRACT

Popular generative model learning methods such as Generative Adversarial Networks (GANs), and Variational Autoencoders (VAE) enforce the latent representation to follow simple distributions such as isotropic Gaussian. In this paper, we argue that learning a complicated distribution over the latent space of an auto-encoder enables more accurate modeling of complicated data distributions. Based on this observation, we propose a two stage optimization procedure which maximizes an approximate implicit density model. We experimentally verify that our method outperforms GANs and VAEs on two image datasets (MNIST, CELEB-A). We also show that our approach is amenable to learning generative model for sequential data, by learning to generate speech and music.

研究の動機と目的

• VAE や GAN における単純な事前分布（例：等方的ガウス分布）の制限を克服し、複雑なデータの表現力を高める。
• GAN に共通するモード崩壊や学習の不安定性を回避するため、敵対的訓練とディスクラミネーター・ネットワークを避ける。
• 計算が困難な尤度の計算を避ける、原理的で最大尤度に基づく暗黙的生成モデルのアプローチを開発する。
• 学習可能な複雑な基本分布を用いることで、画像や順序付き音声のような高次元かつ多モーダルなデータの効果的なモデリングを可能にする。
• エンコーダー・ネットワークから基本分布の学習を分離することで、エンドツーエンドの GAN や VAE よりも単純で安定した学習を実現する。

提案手法

• 2段階の最適化手順を提案：まず潜在空間における基本分布を密度モデルを用いて学習し、次にオートエンコーダーを、データを学習済みの基本分布にマッピングするように訓練する。
• 潜在空間における基本分布を暗黙的密度モデルで近似し、複雑でガウス分布でない構造を捉えることを可能にする。
• モンテカルロ近似を用いて、モデル下でのデータの対数尤度を最大化することで、最大尤度の原則を守る。
• 基本分布の学習をニューラルネットワークエンコーダーから分離し、基本分布の最適化を独立して安定的に行えるようにする。
• エンコーダーがデータを潜在空間にマップし、デコーダーが学習済みの基本分布からデータを再構築する、変分推論フレームワークを適用する。
• 順序付きデータのための学習済み基本分布をモデル化するために、対角共分散ガウス分布を用いたHMMを用いることで、波形ドメインからの音声および音楽の生成を可能にする。

実験結果

リサーチクエスチョン

• RQ1 潜在空間における複雑な基本分布を学習することで、等方的ガウス分布のような単純な事前分布よりも、生成サンプルの品質が向上するか？
• RQ2 エンコーダー・ネットワークから基本分布の学習を分離することで、エンドツーエンドの GAN や VAE よりも安定的かつ効果的な学習が達成されるか？
• RQ3 提案手法は、モード崩壊を回避しながら、画像および順序付きデータ（例：音声や音楽）の高精細なサンプルを生成できるか？
• RQ4 サンプル品質、学習安定性、ハイパーパrameterへの感受性という観点から、GAN や VAE と比較して、この手法はどのように異なるか？
• RQ5 柔軟で学習可能な基本分布を用いることで、この手法はどの程度まで多モーダルかつ高次元のデータ分布をモデリングできるか？

主な発見

• 定性的および定量的評価により、MNIST および CELEBA データセットにおいて、提案手法が GAN や VAE を上回るサンプル品質と多様性を達成していることが示された。
• 波形ドメインからのリアルな音声および音楽サンプルの生成に成功し、構造的複雑性を持つ順序付きデータに対しても有効性を示した。
• 最大尤度の目的関数と敵対的訓練の不在により、GAN よりもモード崩壊を回避し、整合的な構造を持つ生成サンプルが得られた。
• GAN よりも著しく安定した学習プロセスであり、学習率やネットワークアーキテクチャの選択に対する感受性が低減された。
• HMM を用いて学習された複雑な基本分布（例：HMM）を用いることで、単純な事前分布よりも多モーダルなデータ分布のモデリングが向上した。
• 2段階の学習手順により、より表現力のある潜在空間を学習可能となり、再構築および生成性能が向上した。