[论文解读] On the convergence properties of GAN training.

Lars Mescheder|arXiv (Cornell University)|Jan 13, 2018

Generative Adversarial Networks and Image Synthesis参考文献 1被引用 34

一句话总结

本文表明，当数据分布与生成器分布不绝对连续时，未正则化的 GAN 训练无法收敛，其根本原因在于梯度向量场的雅可比矩阵中存在纯虚数特征值。本文证明，通过实例噪声或梯度惩罚进行正则化可恢复局部收敛性，并提出一种简化的梯度惩罚，其具有与更复杂方法相当的收敛特性。

ABSTRACT

Recent work has shown local convergence of GAN training for absolutely continuous data and generator distributions. In this note we show that the requirement of absolute continuity is necessary: we describe a simple yet prototypical counterexample showing that in the more realistic case of distributions that are not absolutely continuous, unregularized GAN training is generally not convergent. Furthermore, we discuss recent regularization strategies that were proposed to stabilize GAN training. Our analysis shows that while GAN training with instance noise or gradient penalties converges, Wasserstein-GANs and Wasserstein-GANs-GP with a finite number of discriminator updates per generator update do in general not converge to the equilibrium point. We explain these results and show that both instance noise and gradient penalties constitute solutions to the problem of purely imaginary eigenvalues of the Jacobian of the gradient vector field. Based on our analysis, we also propose a simplified gradient penalty with the same effects on local convergence as more complicated penalties.

研究动机与目标

• 研究在非绝对连续分布下 GAN 训练的收敛性特性。
• 识别在现实场景中数据分布不绝对连续时，标准 GAN 训练为何无法收敛。
• 分析正则化策略（如实例噪声和梯度惩罚）在恢复收敛性方面的有效性。
• 解释为何 Wasserstein-GAN 和使用有限判别器更新次数的 WGAN-GP 无法收敛至均衡点。
• 提出一种简化的梯度惩罚，确保其与更复杂方法具有相同的收敛特性。

提出的方法

• 作者构建了一个具有非绝对连续分布的典型反例，以证明未正则化 GAN 训练的不收敛性。
• 分析 GAN 训练动力学中梯度向量场的雅可比矩阵，识别出纯虚特征值是导致不稳定的根源。
• 评估正则化技术（实例噪声和梯度惩罚）对特征值结构的影响，以解释其稳定作用。
• 推导并比较标准 GAN、WGAN 和 WGAN-GP 在有限判别器更新次数下的收敛行为。
• 提出一种简化梯度惩罚，其目标与复杂惩罚相同，即纠正特征值，从而确保局部收敛。

实验结果

研究问题

• RQ1 当数据分布与生成器分布不绝对连续时，未正则化的 GAN 训练是否收敛？
• RQ2 为何在非绝对连续的现实设置中，标准 GAN 无法收敛？
• RQ3 实例噪声和梯度惩罚在动力系统层面上如何稳定 GAN 训练？
• RQ4 为何使用有限判别器更新次数的 WGAN 和 WGAN-GP 无法收敛至均衡点？
• RQ5 能否通过简化梯度惩罚实现与更复杂正则化方案相同的收敛特性？

主要发现

• 通过典型反例证明，当分布不绝对连续时，未正则化的 GAN 训练不收敛。
• GAN 训练中的不稳定性源于梯度向量场雅可比矩阵中的纯虚特征值。
• 实例噪声和梯度惩罚通过消除这些纯虚特征值来稳定训练。
• 使用有限判别器更新次数的 Wasserstein-GAN 和 WGAN-GP 无法收敛至均衡点。
• 提出一种简化梯度惩罚，其通过针对相同的特征值校正，复现了更复杂惩罚的收敛行为。