[论文解读] Towards Distributed Coevolutionary GANs

Tom Schmiedlechner, Abdullah Al-Dujaili+2 more|arXiv (Cornell University)|Jul 21, 2018

Generative Adversarial Networks and Image Synthesis参考文献 42被引用 21

一句话总结

本文提出将协同进化算法——一种源自进化计算的无梯度优化技术——整合到生成对抗网络（GANs）中，以解决模式崩溃、振荡行为和梯度消失等长期存在的训练挑战。通过将协同进化与基于梯度的训练相结合，该方法在简单GAN模型中有效摆脱了退化训练动态，展示了生成样本在稳定性和多样性方面的显著提升。

ABSTRACT

Generative Adversarial Networks (GANs) have become one of the dominant methods for deep generative modeling. Despite their demonstrated success on multiple vision tasks, GANs are difficult to train and much research has been dedicated towards understanding and improving their gradient-based learning dynamics. Here, we investigate the use of coevolution, a class of black-box (gradient-free) co-optimization techniques and a powerful tool in evolutionary computing, as a supplement to gradient-based GAN training techniques. Experiments on a simple model that exhibits several of the GAN gradient-based dynamics (e.g., mode collapse, oscillatory behavior, and vanishing gradients) show that coevolution is a promising framework for escaping degenerate GAN training behaviors.

研究动机与目标

• 为解决GAN中长期存在的训练不稳定性问题，如模式崩溃、振荡行为和梯度消失。
• 探究协同进化优化——通常用于进化计算——是否能够稳定并改善GAN的训练动态。
• 探索基于梯度与无梯度优化在深度生成建模中的协同作用。
• 评估协同进化在逃离标准GAN中常见的退化训练状态方面的有效性。

提出的方法

• 提出一种协同进化框架，与GAN中的基于梯度的训练并行运行，利用基于种群的搜索来探索潜在空间。
• 采用黑箱优化策略，不依赖梯度，使其能够在梯度失效的复杂损失景观中导航。
• 以协同进化的方式应用于生成器和判别器组件，实现对模型参数空间的自适应探索。
• 使用具有已知失败模式（如模式崩溃）的简单GAN模型作为测试平台，评估协同进化对训练稳定性的影响。
• 实施一种混合训练方案，定期通过协同进化搜索步骤增强基于梯度的更新。
• 基于训练动态、样本多样性和收敛行为评估性能，不依赖外部度量。

实验结果

研究问题

• RQ1 协同进化优化能否有效缓解GAN中的模式崩溃？
• RQ2 与标准基于梯度的训练相比，协同进化如何提升训练稳定性？
• RQ3 协同进化在何种方式下有助于逃离GAN中的振荡或梯度消失行为？
• RQ4 结合基于梯度与无梯度优化对GAN训练动态有何影响？

主要发现

• 协同进化成功地从简单GAN模型中的退化训练状态（如模式崩溃和振荡行为）中逃离。
• 混合训练方法相比标准GAN优化，显著提升了样本多样性并降低了训练过程中的不稳定性。
• 协同进化更新有助于维持更平衡的生成器-判别器动态，防止过早收敛。
• 该方法在梯度消失导致基于梯度训练失败的情境下表现出强鲁棒性。
• 协同进化的集成无需架构修改，可作为即插即用的增强模块应用于现有GAN框架。
• 实证结果表明，协同进化在不损害生成样本质量的前提下显著提升了训练稳定性。