[论文解读] A Convex Duality Framework for GANs

Farzan Farnia, David Tse|arXiv (Cornell University)|Oct 1, 2018

Sparse and Compressive Sensing Techniques被引用 35

一句话总结

本文提出了一种凸对偶框架，将 GAN 重新解释为在由受限判别器类 F 导出的矩约束下，最小化生成器分布与数据分布之间的分歧。该框架被扩展至 f-GAN 和 Wasserstein GAN，并提出一种随生成器连续变化的混合分歧，通过利普希茨正则化实现训练改进。

ABSTRACT

Generative adversarial network (GAN) is a minimax game between a generator mimicking the true model and a discriminator distinguishing the samples produced by the generator from the real training samples. Given an unconstrained discriminator able to approximate any function, this game reduces to finding the generative model minimizing a divergence measure, e.g. the Jensen-Shannon (JS) divergence, to the data distribution. However, in practice the discriminator is constrained to be in a smaller class F such as neural nets. Then, a natural question is how the divergence minimization interpretation changes as we constrain F. In this work, we address this question by developing a convex duality framework for analyzing GANs. For a convex set F, this duality framework interprets the original GAN formulation as finding the generative model with minimum JS-divergence to the distributions penalized to match the moments of the data distribution, with the moments specified by the discriminators in F. We show that this interpretation more generally holds for f-GAN and Wasserstein GAN. As a byproduct, we apply the duality framework to a hybrid of f-divergence and Wasserstein distance. Unlike the f-divergence, we prove that the proposed hybrid divergence changes continuously with the generative model, which suggests regularizing the discriminator's Lipschitz constant in f-GAN and vanilla GAN. We numerically evaluate the power of the suggested regularization schemes for improving GAN's training performance.

研究动机与目标

• 理解约束判别器类 F 如何改变 GAN 中分歧最小化的解释。
• 开发一种适用于 f-GAN 和 Wasserstein GAN 的统一凸对偶框架。
• 提出一种结合 f-分歧与 Wasserstein 距离的混合分歧，确保其相对于生成器的连续性。
• 证明正则化判别器的利普希茨常数可提升 GAN 训练的稳定性。
• 通过数值实验评估所提正则化方案的有效性。

提出的方法

• 将 GAN 的极小极大博弈形式化为在判别器凸集 F 上的对偶问题。
• 推导出对偶表示：生成器在 F 所诱导的矩约束下最小化 JS 分歧。
• 通过将 f-分歧用 F 中的对偶变量表示，将对偶框架扩展至 f-GAN。
• 通过利用 Kantorovich-Rubinstein 对偶性，将框架适配至 Wasserstein GAN。
• 提出一种混合分歧，融合 f-分歧与 Wasserstein 距离，确保生成器分布下的一致性。
• 推导出混合分歧平滑变化的理论条件，从而为利普希茨正则化提供理论依据。

实验结果

研究问题

• RQ1 约束判别器类 F 如何影响 GAN 中分歧最小化的解释？
• RQ2 能否为 f-GAN 和 Wasserstein GAN 开发统一的凸对偶框架？
• RQ3 结合 f-分歧与 Wasserstein 距离的混合分歧是否表现出对生成器的连续依赖性？
• RQ4 在 f-GAN 和原始 GAN 中，正则化判别器利普希茨常数的理论依据是什么？
• RQ5 所提正则化方案在提升 GAN 训练性能方面的有效性如何？

主要发现

• 对偶框架表明，受限 GAN 在由判别器类 F 导出的矩约束下最小化 JS 分歧。
• 该框架可推广至 f-GAN 和 Wasserstein GAN，提供了统一的理论基础。
• 所提出的混合分歧随生成器连续变化，与标准 f-分歧不同，支持正则化。
• 理论分析表明，利普希茨正则化通过确保分歧对生成器的平滑依赖性，稳定了训练过程。
• 数值结果证实，所建议的正则化方案在实践中显著提升了训练性能。