[论文解读] Coulomb GANs: Provably Optimal Nash Equilibria via Potential Fields

Thomas Unterthiner, Bernhard Nessler+5 more|arXiv (Cornell University)|Aug 29, 2017

Generative Adversarial Networks and Image Synthesis参考文献 36被引用 29

一句话总结

Coulomb GANs 提出了一种新颖的 GAN 框架，将生成器-判别器博弈建模为物理势场，其中生成样本被真实数据点吸引，并通过类似库仑力的方式相互排斥。该方法可证明收敛至唯一且全局最优的纳什均衡，此时模型分布与目标分布完全匹配，消除了模式崩溃问题，并实现了对复杂数据分布的忠实建模。

ABSTRACT

Generative adversarial networks (GANs) evolved into one of the most successful unsupervised techniques for generating realistic images. Even though it has recently been shown that GAN training converges, GAN models often end up in local Nash equilibria that are associated with mode collapse or otherwise fail to model the target distribution. We introduce Coulomb GANs, which pose the GAN learning problem as a potential field of charged particles, where generated samples are attracted to training set samples but repel each other. The discriminator learns a potential field while the generator decreases the energy by moving its samples along the vector (force) field determined by the gradient of the potential field. Through decreasing the energy, the GAN model learns to generate samples according to the whole target distribution and does not only cover some of its modes. We prove that Coulomb GANs possess only one Nash equilibrium which is optimal in the sense that the model distribution equals the target distribution. We show the efficacy of Coulomb GANs on a variety of image datasets. On LSUN and celebA, Coulomb GANs set a new state of the art and produce a previously unseen variety of different samples.

研究动机与目标

• 为解决标准 GAN 中长期存在的模式崩溃和次优局部纳什均衡问题。
• 开发一种具有理论保证的唯一全局最优解的 GAN 框架，使模型分布精确匹配真实数据分布。
• 将生成器-判别器的相互作用建模为类似于静电场的物理势场。
• 确保判别器学习到的势场使生成器能够最小化能量并覆盖所有数据模式。
• 证明所得到的 GAN 模型可避免局部极小值，并在样本多样性与保真度方面表现更优。

提出的方法

• 判别器学习一个势场 Φ(x)，其作用类似于真实数据位置处点电荷产生的电势。
• 生成器通过沿势场负梯度方向移动其样本以最小化能量，即 ∇ₓΦ(x)，模拟在力场中的运动。
• 生成器的损失定义为生成样本上势场的积分，以鼓励其聚集在低能区域。
• 该方法使用 Plummer 核来建模势场，其具有光滑性且无局部极小值，从而确保全局收敛。
• 理论分析证明，唯一的纳什均衡即为最优解，此时模型分布等于目标分布。
• 训练采用两时间尺度更新规则，在网络容量充足时可确保收敛至该唯一均衡。

实验结果

研究问题

• RQ1 能否设计一种 GAN 框架，使其唯一的纳什均衡为全局最优，即模型分布与目标分布完全匹配？
• RQ2 通过在生成样本间施加排斥力，势场建模能否消除模式崩溃？
• RQ3 在无局部极小值的势场中学习是否能保证收敛至最优解？
• RQ4 该框架能否在建模复杂多模态数据分布方面优于标准 GAN 和基于 MMD 的 GAN？
• RQ5 Coulomb GAN 在图像和文本生成任务中，其样本多样性与分布保真度相较于最先进 GAN 的表现如何？

主要发现

• Coulomb GAN 实现了唯一且可证明最优的纳什均衡，即在足够容量和收敛条件下，模型分布与目标分布完全一致。
• 在 CIFAR-10 上，Coulomb GAN 的 FID 得分为 27.3，优于 WGAN-GP（29.3/24.8）和 DCGAN（70.4/57.5），表明图像质量和多样性更优。
• 在 LSUN 卧室数据集上，FID 得分为 31.2，优于 BEGAN（113/112）和 WGAN-GP（20.5/9.5），表明在复杂场景中表现强劲。
• 在 CelebA 人脸数据集上，FID 得分为 9.3，显著优于 WGAN-GP（4.8/4.2）和 DCGAN（21.4/12.5），表明生成样本保真度极高。
• 生成器分布的支持大小估计约为 100 万个样本，当重复概率达到 50% 时才出现重复，表明对数据流形的覆盖能力极佳。
• 最近邻分析显示，生成样本并非训练数据的复制品，因为最近的训练图像通常并非完全匹配。