[论文解读] Learning Implicit Generative Models by Teaching Explicit Ones

Chao Du, Kun Xu+3 more|arXiv (Cornell University)|Jul 10, 2018

Generative Adversarial Networks and Image Synthesis参考文献 26被引用 6

一句话总结

本文提出学习教学（LBT），一种双层优化框架，通过指导密度估计器匹配数据分布来训练隐式生成模型，从而通过最小化KL散度避免模式崩溃。LBT-GAN是将LBT与GAN结合的混合模型，在CIFAR10和CelebA数据集上实现了最先进的样本多样性与质量，优于相同设置下的GAN、VAE和VAE-GAN。

ABSTRACT

Implicit generative models are difficult to train as no explicit density functions are defined. Generative adversarial nets (GANs) present a minimax framework to train such models, which however can suffer from mode collapse due to the nature of the JS-divergence. This paper presents a learning by teaching (LBT) approach to learning implicit models, which intrinsically avoids the mode collapse problem by optimizing a KL-divergence rather than the JS-divergence in GANs. In LBT, an auxiliary density estimator is introduced to fit the implicit model's distribution while the implicit model teaches the density estimator to match the data distribution. LBT is formulated as a bilevel optimization problem, whose optimal generator matches the true data distribution. LBT can be naturally integrated with GANs to derive a hybrid LBT-GAN that enjoys complimentary benefits. Finally, we present a stochastic gradient ascent algorithm with unrolling to solve the challenging learning problems. Experimental results demonstrate the effectiveness of our method.

研究动机与目标

• 为解决GAN中因最小化JS散度而引发的持续性模式崩溃问题。
• 开发一种优化KL散度而非JS散度的训练框架，由于KL散度具有零避免特性，对模式崩溃的容忍度更低。
• 引入一种双层优化方案，其中生成器指导密度估计器匹配真实数据，同时根据估计器的性能更新生成器。
• 通过LBT-GAN整合密度估计器（模式覆盖）与判别器（样本真实感）的优势。
• 证明LBT-GAN对模型架构选择和低容量估计器的鲁棒性。

提出的方法

• LBT将训练表述为双层优化：下层训练密度估计器E以最大化生成样本的对数似然，上层则优化生成器G以最大化真实数据在E下的对数似然。
• 通过依赖于估计器最优解的梯度更新生成器，使用展开（unrolling）方法处理不可导梯度。
• 该框架利用KL散度的性质：仅当分布相等时达到最小值，从而内在地惩罚缺失数据模式。
• LBT-GAN将LBT目标与标准GAN判别器结合，使生成器能同时受益于E提供的模式覆盖和D提供的真实感。
• 采用带展开的随机梯度上升算法求解双层问题，超参数K（展开步数）和M（内层更新次数）经调优以实现收敛与性能平衡。
• 理论分析表明，在非参数条件下，当G和E均匹配数据分布时，LBT收敛至真实数据分布。

实验结果

研究问题

• RQ1 能否通过一种双层优化框架，指导密度估计器匹配真实数据，从而避免隐式生成模型中的模式崩溃？
• RQ2 与最小化JS散度相比，优化KL散度是否能带来更好的模式覆盖与样本多样性？
• RQ3 低容量密度估计器是否仍能有效引导生成器避免模式崩溃？
• RQ4 将LBT与GAN判别器结合（即LBT-GAN）相比独立的GAN或VAE，能否显著提升样本质量与多样性？
• RQ5 展开步数K与内层更新迭代次数M对LBT训练稳定性与收敛性有何影响？

主要发现

• 在CelebA数据集上，LBT-GAN使用小型生成器与简单VAE估计器，FID得分达到62.3，显著优于GAN（156.9）、VAE（379.6）和VAE-GAN（100.5）。
• 在CIFAR10与CelebA数据集上，LBT-GAN生成的样本多样性优于未微调的DCGAN，尤其在CelebA数据集上表现更优。
• 即使使用简单的20单元、两层VAE估计器，LBT-GAN仍成功捕捉了Stacked-MNIST上的1,000个模式，并生成高质量样本。
• 敏感性分析表明，当展开步数K超过5后，收益递减；而增加内层更新步数M可提升收敛速度。
• 与GAN或VAE-GAN相比，LBT-GAN对架构选择更具鲁棒性，即使使用小生成器也能保持强大性能。
• 理论分析证实，在非参数条件下，当生成器与估计器均匹配数据分布时，LBT收敛至真实数据分布。