[论文解读] Geometric GAN

Jae Hyun Lim, Jong Chul Ye|arXiv (Cornell University)|May 8, 2017

Generative Adversarial Networks and Image Synthesis被引用 62

一句话总结

Geometric GAN 将 GAN 训练重新表述为三个几何步骤，并引入一个基于 SVM 的分离超平面，具有最大间隔，显示收敛到 Nash equilibrium 并提升稳定性和性能。

ABSTRACT

Generative Adversarial Nets (GANs) represent an important milestone for effective generative models, which has inspired numerous variants seemingly different from each other. One of the main contributions of this paper is to reveal a unified geometric structure in GAN and its variants. Specifically, we show that the adversarial generative model training can be decomposed into three geometric steps: separating hyperplane search, discriminator parameter update away from the separating hyperplane, and the generator update along the normal vector direction of the separating hyperplane. This geometric intuition reveals the limitations of the existing approaches and leads us to propose a new formulation called geometric GAN using SVM separating hyperplane that maximizes the margin. Our theoretical analysis shows that the geometric GAN converges to a Nash equilibrium between the discriminator and generator. In addition, extensive numerical results show that the superior performance of geometric GAN.

研究动机与目标

• 揭示支撑 GAN及其变体的统一几何结构。
• 解释鉴别器与生成器的更新如何被解释为相对于分离超平面的移动。
• 提出使用最大间距的 SVM 分离超平面的几何 GAN。
• 提供收敛到 Nash equilibrium 的理论保证。
• 在合成数据和真实数据集上展示相对于现有 GAN 变体的经验优势。

提出的方法

• 通过三个几何步骤来理解 GAN 变体：分离超平面搜索、从超平面向外更新鉴别器、以及沿着超平面法向量更新生成器。
• 采用 soft-margin SVM 作为分离超平面，以在特征空间中最大化真实样本和假样本之间的间隔。
• 将鉴别器和生成器的更新表述为带有几何驱动缩放因子的 SGD 步骤，这些缩放与 SVM 的间隔相关。
• Show 收敛到 Nash equilibrium，其中 p_g* 等于 p_x 且目标函数达到常数值。
• 在高斯混合物和图像数据集上进行实验验证，以说明稳定性和减少模式崩溃。

实验结果

研究问题

• RQ1 是否可以用分离超平面的几何解释来统一 GAN 变体并解释它们的行为？
• RQ2 用基于 SVM 的最大间距超平面替代标准鉴别器是否能确保收敛到 Nash equilibrium？
• RQ3 在实践中，几何 GAN 相对于 GAN、WGAN 和 McGAN 是否降低模式崩溃并提高稳定性？
• RQ4 在 HDLSS 设置中，几何缩放因子如何影响鉴别器和生成器的更新？
• RQ5 几何、最大化边距的方法在合成与真实世界数据上提供了哪些经验性好处？

主要发现

• 几何 GAN 提供了一个可收敛的框架，其中对抗训练实现 p_g* = p_x，且 Nash equilibrium 时 R(D*,G*) = 2。
• 基于 SVM 的最大间距分离超平面带来更清晰的几何直觉和对鉴别器与生成器的稳定更新。
• 在高斯混合物的经验结果表明，与 GAN、WGAN 和 McGAN 变体相比，模式崩溃更少、在 Lipschitz 约束下收敛更鲁棒。
• 在 MNIST、CelebA 和 LSUN 上的定性结果表明能够生成真实样本且未出现明显的模式崩溃或发散。
• 基于几何的更新（带缩放因子）自然扩展到现有 GAN 变体，提供统一的解释和潜在的稳定性收益。