[论文解读] Dropout-GAN: Learning from a Dynamic Ensemble of Discriminators

Gonçalo Mordido, Haojin Yang+1 more|arXiv (Cornell University)|Jul 30, 2018

Generative Adversarial Networks and Image Synthesis参考文献 36被引用 48

一句话总结

Dropout-GAN 在对抗不断变化的判别器集的情况下，训练单个生成器，通过随机舍弃判别器反馈来提升样本多样性并在多个数据集上缓解模式崩溃。

ABSTRACT

We propose to incorporate adversarial dropout in generative multi-adversarial networks, by omitting or dropping out, the feedback of each discriminator in the framework with some probability at the end of each batch. Our approach forces the single generator not to constrain its output to satisfy a single discriminator, but, instead, to satisfy a dynamic ensemble of discriminators. We show that this leads to a more generalized generator, promoting variety in the generated samples and avoiding the common mode collapse problem commonly experienced with generative adversarial networks (GANs). We further provide evidence that the proposed framework, named Dropout-GAN, promotes sample diversity both within and across epochs, eliminating mode collapse and stabilizing training.

研究动机与目标

• 通过利用多个判别器来激励并解决 GANs 中的模式崩溃。
• 引入对抗性失活以创建按批次变化的动态集成。
• 证明多样的反馈会导致更具多样性的生成样本并提升稳定性。
• 展示对抗性失活在多种 GAN 变体和数据集上的可扩展性。

提出的方法

• 将 GAN 框架扩展为一组 K 个判别器，为单个生成器提供反馈。
• 对每个判别器的反馈以概率 d 进行 dropout，因此生成器的更新仅使用判别器的随机子集。
• 如果所有判别器都被 dropout，则使用随机选择的单个判别器来更新生成器，以保留学习信号。
• 让每个判别器独立地使用自己的梯度更新进行训练。
• 在 MNIST、CIFAR-10 和 CelebA 上，使用 FID、Inception Score 以及定性分析评估方法，并改变 K 和 d。

实验结果

研究问题

• RQ1 在一个动态判别器集上进行对抗性 dropout 是否能够减少 GANs 中的模式崩溃？
• RQ2 判别器数量 (K) 和 dropout 率 (d) 如何影响训练稳定性和样本多样性？
• RQ3 Dropout-GAN 作为对现有 GAN 变体（如 LSGAN、DRAGAN、modGAN）的通用增强，在不同规模数据集上是否有帮助？

主要发现

• 对抗性 dropout 提高了样本多样性并在 MNIST、CIFAR-10 和 CelebA 上减少模式崩溃。
• 中等范围的 dropout 率（d 约 0.2–0.5）结合更大的判别器集合，在若干数据集上获得最佳的 Fréchet Inception Distance (FID)。
• 使用多个判别器通常在 FID 和稳定性方面优于静态单判别器。
• 根据报告的指标，Dropout-GAN 在多个数据集上改善了若干 GAN 变体（LSGAN、DRAGAN、modGAN）。
• 在使用两個判别器的对抗性 dropout 时，该方法在 CIFAR-10、STL-10 和 ImageNet 上获得更高的 Inception Score。