[論文レビュー] Learning Implicit Generative Models by Teaching Explicit Ones

Chao Du, Kun Xu+3 more|arXiv (Cornell University)|Jul 10, 2018

Generative Adversarial Networks and Image Synthesis参考文献 26被引用数 6

ひとこと要約

本稿では、密度推定器にデータ分布に一致させるように指導することにより、KL発散度の最小化によってモード崩壊を回避する、暗黙的生成モデルを訓練するための二段階最適化フレームワーク「LBT（Learning by Teaching）」を提案する。LBTとGANを組み合わせたハイブリッドモデルLBT-GANは、CIFAR10およびCelebAで、同じ設定下でGAN、VAE、VAE-GANを上回る、最先端のサンプルの多様性と品質を達成する。

ABSTRACT

Implicit generative models are difficult to train as no explicit density functions are defined. Generative adversarial nets (GANs) present a minimax framework to train such models, which however can suffer from mode collapse due to the nature of the JS-divergence. This paper presents a learning by teaching (LBT) approach to learning implicit models, which intrinsically avoids the mode collapse problem by optimizing a KL-divergence rather than the JS-divergence in GANs. In LBT, an auxiliary density estimator is introduced to fit the implicit model's distribution while the implicit model teaches the density estimator to match the data distribution. LBT is formulated as a bilevel optimization problem, whose optimal generator matches the true data distribution. LBT can be naturally integrated with GANs to derive a hybrid LBT-GAN that enjoys complimentary benefits. Finally, we present a stochastic gradient ascent algorithm with unrolling to solve the challenging learning problems. Experimental results demonstrate the effectiveness of our method.

研究の動機と目的

• GANにおける持続的なモード崩壊問題に寄与するJS発散度の最小化に起因する問題を解消すること。
• モード崩壊に対してより耐性がある（ゼロ回避性を有する）ため、KL発散度の最小化を最適化フレームワークに採用することで、より良いモードカバレッジを実現すること。
• 生成器が密度推定器に実データを再現させるように指導する二段階最適化スキームを導入すること。
• 密度推定器（モードカバレッジ）と識別器（サンプルの現実性）の相補的利点をLBT-GANによって統合すること。
• モデルアーキテクチャの選択や低容量の推定器に対しても、LBTのロバストネスを示すこと。

提案手法

• LBTは二段階最適化として訓練を定式化する：下位段階では、生成されたサンプルにおける対数尤度を最大化するように密度推定器Eを訓練する。上位段階では、Eのもとでの実データの対数尤度を最大化するように生成器Gを最適化する。
• 推定器の最適解に依存する勾配を用いて生成器を更新するが、勾配が計算不能であるため、アンローリングを用いて近似する。
• KL発散度は、分布が等しい場合にのみ最小値をとる性質を活用し、データモードの欠落を内因的にペナルティ化する。
• LBT-GANは、LBTの目的関数と標準的なGAN識別器を組み合わせ、生成器がEによるモードカバレッジとDによる現実性の両方の利点を享受できるようにする。
• アンローリングを用いた確率的勾配昇値法を用いて二段階問題を解き、収束性と性能に最適化するためのハイパーパラメータK（アンローリングステップ数）とM（内部更新回数）を調整する。
• 理論的分析により、非パラメトリックな条件下で、GとEが両方ともデータ分布と一致する場合、LBTは真のデータ分布に収束することが示された。

実験結果

リサーチクエスチョン

• RQ1 実データに一致させるように密度推定器を指導する二段階最適化フレームワークは、暗黙的生成モデルにおけるモード崩壊を回避できるか？
• RQ2 JS発散度ではなくKL発散度を最適化することで、より良いモードカバレッジとサンプルの多様性が得られるか？
• RQ3 低容量の密度推定器でも、生成器がモード崩壊を回避するのを効果的に指導できるか？
• RQ4 LBTとGAN識別器を組み合わせたLBT-GANは、単独のGANやVAEと比較して、サンプルの品質と多様性をどのように向上させるか？
• RQ5 アンローリングステップ数Kと内部更新イテレーション数Mが、LBTの訓練安定性と収束性に与える影響は何か？

主な発見

• LBT-GANは、小さな生成器と単純なVAE推定器を用いて、CelebAで62.3のFIDスコアを達成し、GAN（156.9）、VAE（379.6）、VAE-GAN（100.5）を大きく上回った。
• CIFAR10およびCelebAにおいて、LBT-GANは微調整なしのDCGANよりも多様なサンプルを生成し、特にCelebAデータセットで顕著であった。
• 20ユニット、2層の単純なVAE推定器でさえ、Stacked-MNISTで1,000のモードを正しく捉え、高品質なサンプルを生成できた。
• 感度分析の結果、アンローリングステップ数Kを5を超えて増加させても利得が著しく減少し、内部更新ステップ数Mを増やすことで収束速度が向上した。
• LBT-GANは、GANやVAE-GANと比較して、モデルアーキテクチャの選択に対してよりロバストであり、小さな生成器でも強力な性能を維持した。
• 理論的分析により、非パラメトリックな条件下で、生成器と推定器が両方ともデータ分布と一致する場合、LBTは真のデータ分布に収束することが確認された。