[论文解读] On Characterizing GAN Convergence Through Proximal Duality Gap

Sahil Sidheekh, Aroof Aimen+1 more|arXiv (Cornell University)|May 11, 2021

Model Reduction and Neural Networks参考文献 39被引用 5

一句话总结

本文提出了近端对偶间隙（DG^λ），这是一种用于 GAN 训练的新型收敛性度量方法，通过引入一个近端正则化项 λ，将传统的对偶间隙推广至非纳什均衡情形。理论与实证结果表明，DG^λ 能够有效监控更广泛类别的均衡状态下的 GAN 收敛性，并与 FID 和 IS 指标呈现强相关性，从而实现客观的训练监控与超参数调优。

ABSTRACT

Despite the accomplishments of Generative Adversarial Networks (GANs) in modeling data distributions, training them remains a challenging task. A contributing factor to this difficulty is the non-intuitive nature of the GAN loss curves, which necessitates a subjective evaluation of the generated output to infer training progress. Recently, motivated by game theory, duality gap has been proposed as a domain agnostic measure to monitor GAN training. However, it is restricted to the setting when the GAN converges to a Nash equilibrium. But GANs need not always converge to a Nash equilibrium to model the data distribution. In this work, we extend the notion of duality gap to proximal duality gap that is applicable to the general context of training GANs where Nash equilibria may not exist. We show theoretically that the proximal duality gap is capable of monitoring the convergence of GANs to a wider spectrum of equilibria that subsumes Nash equilibria. We also theoretically establish the relationship between the proximal duality gap and the divergence between the real and generated data distributions for different GAN formulations. Our results provide new insights into the nature of GAN convergence. Finally, we validate experimentally the usefulness of proximal duality gap for monitoring and influencing GAN training.

研究动机与目标

• 解决传统对偶间隙（DG）在 GAN 训练监控中的局限性，即其依赖于收敛至纳什均衡——而这一条件在实际中并不总能成立。
• 克服 GAN 损失曲线行为不直观的问题，从而阻碍对训练进度的客观评估。
• 开发一种适用于非纳什均衡但稳定的驻定点的广义收敛性度量，尤其适用于正则化 GAN 的设定。
• 建立 DG^λ 与真实数据分布和生成数据分布之间差异的理论与实证联系，评估指标为 FID 和 IS。
• 展示 DG^λ 在指导超参数调优中的实用性，特别是判别器与生成器的更新比例，以提升 GAN 训练的稳定性。

提出的方法

• 通过在原始 GAN 损失中添加正则化项 λ‖θ − θ₀‖² 定义近端 GAN 目标函数，其中 θ₀ 为当前参数配置。
• 提出近端对偶间隙（DG^λ），即近端 GAN 目标函数的对偶间隙，用于衡量在近端正则化下单方面偏离所能获得的潜在收益。
• 理论上证明：当且仅当 GAN 参数处于 λ-近端均衡时，DG^λ 为零，该均衡状态是纳什均衡的推广。
• 建立 DG^λ 与不同 GAN 设定下真实数据与生成数据分布之间差异的理论关系。
• 通过在 MNIST、CIFAR-10 和 CelebA 上使用 WGAN 进行实证验证，计算训练过程中 DG^λ 与 FID 和 IS 的相关性。
• 将 DG^λ 用作损失代理，用于调优判别器与生成器的更新比例（N），识别出能最小化 DG^λ 并最大化样本质量的最优超参数范围。

实验结果

研究问题

• RQ1 GAN 是否能在非纳什均衡点（如稳定的驻定点）处学习到真实数据分布？
• RQ2 当 GAN 未收敛至纳什均衡时，标准对偶间隙（DG）是否失效为收敛性监控工具？
• RQ3 能否构建一种广义的对偶间隙度量，使其在非纳什设定下依然有效，特别是在正则化条件下？
• RQ4 近端对偶间隙（DG^λ）与 FID 和 IS 等标准 GAN 评估指标在不同数据集和训练动态下的相关性如何？
• RQ5 DG^λ 是否可用于客观指导 GAN 训练中的超参数调优，例如判别器与生成器的更新比例？

主要发现

• 在所有三个数据集上，DG^λ 与 FID 和 IS 均呈现强相关性：在 MNIST 上，DG^λ 与 FID 的相关系数为 0.957，与 IS 的相关系数为 -0.892。
• 在 CIFAR-10 上，DG^λ 与 FID 的相关系数为 0.738，与 IS 的相关系数为 -0.854，表明其与样本质量高度一致。
• 在 CelebA 上，DG^λ 与 FID 的相关系数为 0.699，与 IS 的相关系数为 -0.524，证实其在复杂数据集上的有效性。
• 当 λ 较小时（≤1），DG^λ 在所有数据集上均保持稳定且接近零，表明其对近端正则化具有鲁棒性。
• 当 λ 超过某一阈值（CIFAR-10 和 CelebA 为 10¹，MNIST 为 10⁴）后，DG^λ 急剧上升并收敛至标准 DG，验证了其在极限情况下的理论等价性。
• 在超参数调优中，DG^λ 成功识别出最优更新比例：当更新比例 N ≤ 5（即平衡或生成器更受青睐的更新）时，DG^λ 保持较低水平（图 5 中为蓝色）；而当 N ≥ 8 时，DG^λ 显著上升（红色），对应样本质量下降。