[论文解读] An Online Learning Approach to Generative Adversarial Networks

Paulina Grnarova, Kfir Y. Levy+3 more|arXiv (Cornell University)|Jun 10, 2017

Generative Adversarial Networks and Image Synthesis参考文献 4被引用 15

一句话总结

本文提出 Chekhov GAN，一种基于在线学习的生成对抗网络（GAN）训练方法，通过将生成器和判别器建模为零和博弈中的参与者。该方法利用在线学习中的后悔最小化，可证明收敛至半浅层 GAN 架构（单层判别器，任意生成器）的混合策略均衡，并通过一种实用启发式方法扩展至深层架构，提升了训练稳定性和样本多样性，同时不牺牲视觉质量。

ABSTRACT

We consider the problem of training generative models with a Generative Adversarial Network (GAN). Although GANs can accurately model complex distributions, they are known to be difficult to train due to instabilities caused by a difficult minimax optimization problem. In this paper, we view the problem of training GANs as finding a mixed strategy in a zero-sum game. Building on ideas from online learning we propose a novel training method named Chekhov GAN 1 . On the theory side, we show that our method provably converges to an equilibrium for semi-shallow GAN architectures, i.e. architectures where the discriminator is a one layer network and the generator is arbitrary. On the practical side, we develop an efficient heuristic guided by our theoretical results, which we apply to commonly used deep GAN architectures. On several real world tasks our approach exhibits improved stability and performance compared to standard GAN training.

研究动机与目标

• 解决标准 GAN 训练中由于极小极大优化中的交替梯度下降导致的不稳定性和非收敛问题。
• 探究在线学习中的混合策略是否能在非凸-拟凹设置下为 GAN 训练提供稳定收敛。
• 开发一种理论基础扎实且实用的 GAN 训练方法，减少模式崩溃并提升样本多样性。
• 通过基于理论的启发式方法，将半浅层 GAN 的理论收敛保证扩展至更复杂且广泛使用的深层 GAN 架构。
• 通过实证结果证明，所提方法在真实世界数据集上的训练稳定性和样本质量方面优于标准 GAN。

提出的方法

• 将 GAN 训练建模为生成器与判别器之间的双人零和博弈，目标是寻找混合策略均衡。
• 将在线学习中的后悔最小化算法应用于生成器和判别器两个参与者。
• 使用自适应学习率的在线梯度下降，随时间最小化后悔，确保收敛至相关均衡。
• 提出一种名为 Chekhov GAN 的新算法，灵感源自“契诃夫之枪”原则，即每个组件均不可或缺且迭代构建。
• 通过分析半拟凹博弈，为半浅层 GAN（单层判别器，任意生成器）推导理论保证。
• 基于理论洞见开发一种实用启发式方法，将该方法应用于深层 GAN 架构，同时保持稳定性和多样性。

实验结果

研究问题

• RQ1 能否使用带有后悔最小化的在线学习方法，在半浅层 GAN 架构中可证明收敛至均衡？
• RQ2 与标准 GAN 中的交替梯度下降相比，在线学习中使用混合策略是否能提升训练稳定性？
• RQ3 能否通过实用启发式方法，将半浅层 GAN 的理论收敛保证扩展至深层真实世界 GAN 架构？
• RQ4 在模式崩溃和样本多样性方面，所提方法与标准 GAN 训练相比表现如何？
• RQ5 该方法对生成样本的训练稳定性和视觉质量的实证影响是什么？

主要发现

• 理论分析证明，Chekhov GAN 在半浅层 GAN 架构中可证明收敛至混合策略均衡，即使博弈并非凸-拟凹。
• 与标准 GAN 训练相比，该方法在基准数据集上实现了更高的训练稳定性和更低的模式崩溃。
• 实证结果表明，Chekhov GAN 的启发式版本在保持高视觉质量的同时，生成了更具多样性的样本。
• 证明了生成器和判别器的后悔界以 O(1/√T) 的速率收敛至零，确保收敛至近似均衡。
• 该方法在多个真实世界数据集（包括 CIFAR-10 和 CelebA）上表现出稳健性能，训练动态持续改善。