[论文解读] Unrolled Generative Adversarial Networks

Luke Metz, Ben Poole+2 more|arXiv (Cornell University)|Nov 7, 2016

Anomaly Detection Techniques and Applications被引用 425

一句话总结

本文通过将生成器的目标定义为对判别器的展开优化来稳定GAN训练，从而减少模式坍塌并提高多样性。

ABSTRACT

We introduce a method to stabilize Generative Adversarial Networks (GANs) by defining the generator objective with respect to an unrolled optimization of the discriminator. This allows training to be adjusted between using the optimal discriminator in the generator's objective, which is ideal but infeasible in practice, and using the current value of the discriminator, which is often unstable and leads to poor solutions. We show how this technique solves the common problem of mode collapse, stabilizes training of GANs with complex recurrent generators, and increases diversity and coverage of the data distribution by the generator.

研究动机与目标

• 激发并解决GAN训练中的不稳定性和模式坍塌。
• 通过展开判别器优化引入一个代理生成器目标。
• 探讨展开如何在标准GAN训练和真正的生成器损失之间插值。
• 展示在从简单到复杂的数据集上获得的多样性和覆盖率的提升。

提出的方法

• 将GAN目标定义为一个带有生成器G和判别器D的极小极大问题。
• 引入一个代理目标f_K，通过展开判别器优化的K步来实现：f_K(θ_G, θ_D) = f(θ_G, θ_D^K(θ_G, θ_D)).
• 通过展开优化对生成器梯度进行反向传播以更新θ_G。
• 在判别器按常规更新的同时，生成器梯度通过展开的步骤进行反向传播。
• 解释缺失的梯度项，它捕捉了D如何对G的变化作出反应以及它如何缓解模式坍塌。
• 注：更多的展开步数使目标更接近真正的生成器损失，但计算成本更高。

实验结果

研究问题

• RQ1 相比于标准训练，展开判别器优化是否能稳定GAN训练？
• RQ2 展开的GAN是否在不同数据集上改善模式覆盖并减少模式坍塌？
• RQ3 展开步数的多少如何影响训练动态和样本多样性？
• RQ4 展开是否能够使更复杂的生成器（例如基于RNN的生成器）在其他情况下不稳定的情形下也能训练？

主要发现

• 展开的GAN在二维高斯混合模型上稳定训练，使生成器能够扩散质量并收敛到目标分布。
• 在MNIST上用展开GAN训练的基于RNN的生成器保持稳定并覆盖分布，而不是崩塌。
• 展开在建模具有多数据模态的数据集时改善离散模式覆盖并降低KL散度。
• 在CIFAR-10上，增加展开步数会提高样本多样性，并导致重构和成对距离统计更接近数据分布。