[论文解读] Evolutionary Generative Adversarial Networks

Chaoyue Wang, Chang Xu+2 more|arXiv (Cornell University)|Mar 1, 2018

Generative Adversarial Networks and Image Synthesis参考文献 1被引用 19

一句话总结

本文提出进化生成对抗网络（E-GAN），一种新颖的框架，通过使用进化计算来稳定 GAN 训练，即利用多个对抗目标作为变异操作，对生成器种群进行演化。通过基于质量与多样性选择最适应的生成器，E-GAN 克服了单一损失函数的局限性，在多个数据集上实现了更稳定的训练过程和最先进的图像生成性能。

ABSTRACT

Generative adversarial networks (GAN) have been effective for learning generative models for real-world data. However, existing GANs (GAN and its variants) tend to suffer from training problems such as instability and mode collapse. In this paper, we propose a novel GAN framework called evolutionary generative adversarial networks (E-GAN) for stable GAN training and improved generative performance. Unlike existing GANs, which employ a pre-defined adversarial objective function alternately training a generator and a discriminator, we utilize different adversarial training objectives as mutation operations and evolve a population of generators to adapt to the environment (i.e., the discriminator). We also utilize an evaluation mechanism to measure the quality and diversity of generated samples, such that only well-performing generator(s) are preserved and used for further training. In this way, E-GAN overcomes the limitations of an individual adversarial training objective and always preserves the best offspring, contributing to progress in and the success of GANs. Experiments on several datasets demonstrate that E-GAN achieves convincing generative performance and reduces the training problems inherent in existing GANs.

研究动机与目标

• 解决传统 GAN 中因依赖单一对抗目标而导致的训练不稳定与模式崩溃问题。
• 通过动态组合多种距离度量（如 JSD、WGAN、LSGAN）作为多样化变异策略，提升生成性能。
• 增强在不同网络架构与超参数设置下的训练鲁棒性。
• 开发一种基于种群的进化框架，其中生成器质量通过评估机制进行衡量，仅保留表现最佳的模型以进入下一轮迭代。

提出的方法

• E-GAN 将 GAN 训练建模为一个进化过程，其中判别器作为动态环境，提供自适应的损失函数。
• 使用多种对抗目标（如 minimax、least-squares、WGAN、JSD）作为不同的变异操作，生成多样化的后代生成器。
• 每个生成器后代均通过基于当前判别器区分真实与虚假样本能力的质量与多样性度量进行评估。
• 仅选择表现最优的生成器——即生成真实感强且多样化的样本——进入下一代，遵循“适者生存”原则。
• 在每次迭代中重新训练判别器，以适应不断演化的生成器种群，维持动态的对抗反馈回路。
• 该框架通过在模型容量降低或移除归一化层的情况下仍保持性能，展现出架构鲁棒性。

实验结果

研究问题

• RQ1 通过进化框架结合多种对抗训练目标，能否提升 GAN 训练的稳定性并减少模式崩溃？
• RQ2 基于性能度量的生成器进化选择，如何影响生成样本的质量与多样性？
• RQ3 E-GAN 在不同网络架构与超参数设置下，其性能保持程度如何？
• RQ4 该进化方法是否能实现更好的潜在空间连续性与生成图像中的语义插值？

主要发现

• E-GAN 在 LSUN、CelebA 和 CIFAR-10 数据集上实现了最先进的图像生成性能，能够生成高保真度且多样化的样本。
• 在 LSUN 卧室数据集上，即使从生成器和判别器中移除批量归一化层，E-GAN 仍能成功生成 128×128 的高质量图像，展现出优异的架构鲁棒性。
• 在 CelebA 数据集上，E-GAN 实现了潜在空间中的平滑线性插值，表明其能有效解耦性别、年龄和表情等属性，且无模式崩溃现象。
• 在所有测试的架构中，包括模型容量受限的情况，E-GAN 均优于 DCGAN、LSGAN、WGAN 和 WGAN-GP，表明其具备更优的训练稳定性。
• 通过进化选择动态切换多种损失函数，该方法有效缓解了梯度消失问题，并避免收敛至次优平衡点。
• 实验表明，启发式变异操作的数量随时间逐渐减少，而 E-GAN 通过偏好更高效、多样的变异策略，持续维持高性能。