[論文レビュー] Diagnosing and Enhancing VAE Models

Bin Dai, David Wipf|arXiv (Cornell University)|Mar 14, 2019

Generative Adversarial Networks and Image Synthesis参考文献 42被引用数 95

ひとこと要約

本論文はガウス型VAEの仮定を分析し、真の分布を回復できる条件を示し、追加の調整なしにシャープなサンプルと競争力のFIDを実現する簡易な2段階VAE拡張を提案する。

ABSTRACT

Although variational autoencoders (VAEs) represent a widely influential deep generative model, many aspects of the underlying energy function remain poorly understood. In particular, it is commonly believed that Gaussian encoder/decoder assumptions reduce the effectiveness of VAEs in generating realistic samples. In this regard, we rigorously analyze the VAE objective, differentiating situations where this belief is and is not actually true. We then leverage the corresponding insights to develop a simple VAE enhancement that requires no additional hyperparameters or sensitive tuning. Quantitatively, this proposal produces crisp samples and stable FID scores that are actually competitive with a variety of GAN models, all while retaining desirable attributes of the original VAE architecture. A shorter version of this work will appear in the ICLR 2019 conference proceedings (Dai and Wipf, 2019). The code for our model is available at https://github.com/daib13/ TwoStageVAE.

研究の動機と目的

• 異なる多様体次元下で、ガウス型エンコーダ／デコーダの仮定がVAEが真の分布を回復する能力に与える影響を調査する。
• データ多様体の学習と多様体内部の分布における潜在次元の役割を特徴づけ、最適なVAE解を特定する。
• 追加の調整なしで非一意性に対処し、サンプル品質を向上させる実用的な2段階VAE拡張を提案する。
• 中立的なテスト条件下で、2段階アプローチが高品質なサンプルと安定したFIDスコアを生み出せることを示す。

提案手法

• ガウス型エンコーダ q_phi(z|x) とガウス型デコーダ p_theta(x|z) を持つ κ-simple VAE を定義する。
• 多様体次元が周囲空間と等しいとき (r=d)、VAE目的を同時に最適化し、特定の条件下で真の分布を回復するパラメータ列が存在することを証明する。
• r<d のとき、最適解は多様体内で真の分布を一意に回復せずとも、目的関数を最小化できることを示す。
• VAEは退化的な潜在活性化（少数の有効次元）を好む傾向があり、デコーダ分散 γ が 0 に近づくと再構成項が支配的になることを明らかにする。
• 2段階 VAE を提案する：第1段階は最小限の有効潜在変数で低次元多様体を学習し、 第2段階は潜在コードの分布を標準ガウス事前分布に合わせるように学習する。

実験結果

リサーチクエスチョン

• RQ1 ガウスVAE仮定は r=d の場合に真の分布の回復を可能にするか、どの条件が必要か？
• RQ2 r<d がグローバル最適解の一意性と学習された真の分布多様体に及ぼす影響は？
• RQ3 非一意性と潜在マッチングの不良をどう対処してサンプル品質を追加調整なしで改善できるか？
• RQ4 単純な2段階VAEは中立条件下でGANと同等のシャープなサンプルと安定したFIDを達成できるか？

主な発見

• kappa >= r を満たす kappa-simple VAE は、適切な条件の下で r=d のとき目的関数をグローバルに最適化し、真の分布を回復できる。
• r<d の場合、最適解は多様体の質量を一致させつつ目的関数を -∞ に押し込むことができるが、多様体内で mu_gt を必ず再現するとは限らない。
• 最適解は r 個の有効次元のみを持つ退化的な潜在活性を示し、目的を最小化するためデコーダ分散 γ が0に近づくことを示す。
• 第1段階で多様体の良好な潜在表現を回復し、第2段階でこの中間コード上の正しい分布を学習する2段階VAEを導入する。
• 実験は、2段階アプローチが中立的なテスト条件でシャープなサンプルと安定したFIDスコアを GANs に匹敵する結果を示すことを示す。