[论文解读] Convergence Problems with Generative Adversarial Networks (GANs)

Samuel A. Barnett|arXiv (Cornell University)|Jun 29, 2018

Generative Adversarial Networks and Image Synthesis参考文献 29被引用 44

一句话总结

本论文从数学角度分析 GAN 的收敛挑战，详细论述了原始公式的局限性，并探索拓扑和博弈论方法以提高稳定性。

ABSTRACT

Generative adversarial networks (GANs) are a novel approach to generative modelling, a task whose goal it is to learn a distribution of real data points. They have often proved difficult to train: GANs are unlike many techniques in machine learning, in that they are best described as a two-player game between a discriminator and generator. This has yielded both unreliability in the training process, and a general lack of understanding as to how GANs converge, and if so, to what. The purpose of this dissertation is to provide an account of the theory of GANs suitable for the mathematician, highlighting both positive and negative results. This involves identifying the problems when training GANs, and how topological and game-theoretic perspectives of GANs have contributed to our understanding and improved our techniques in recent years.

研究动机与目标

• 将GAN及其训练解释为生成器与判别器之间的双人博弈。
• 识别MM-GANs中的收敛问题，如提升失败和模式塌陷。
• 引入并分析散度及其在训练目标中的作用。
• 探讨拓扑与博弈论框架以改进收敛性与稳定性。

提出的方法

• 形式化理想化的极小极大GAN (IMM-GAN) 目标并证明最优判别器。
• 证明IMM-GAN等价于最小化 p_r 与 p_G 之间的JS散度。
• 讨论散度（KL、JS）及其与GAN训练相关的性质。
• 引入MM-GAN作为具有神经网络参数化的实用版本。
• 回顾收敛问题（提升失败、梯度消失、模式塌陷）并提出解释。

实验结果

研究问题

• RQ1 在什么条件下，IMM-GAN 目标可以保证收敛到 p_r = p_G？
• RQ2 如KL、JS等散度如何与GAN训练动态及收敛相关？
• RQ3 MM-GANs中收敛问题如模式塌陷的原因与表现是什么？
• RQ4 替代散度或度量（如Wasserstein）能否改善训练稳定性与收敛性？
• RQ5 哪些博弈论洞见可以解释GAN训练中的多重均衡与混合策略？

主要发现

• 若使用最优判别器，IMM-GAN 目标收敛至 p_r = p_G，最小值为 -log 4。
• JS散度将IMM-GAN目标与p_r与p_G之间差异的度量联系起来，指导收敛分析。
• 梯度消失和模式塌陷，尤其是在判别器过拟合时。
• 基于Wasserstein的及 IPM 的方法提供了可能解决基于JS的收敛问题的替代视角。
• GANs中的均衡存在并不能在实际中保证收敛到这些均衡，促使更广泛的博弈论考量。