[论文解读] GANs beyond divergence minimization

Alexia Jolicoeur‐Martineau|arXiv (Cornell University)|Sep 6, 2018

Adversarial Robustness in Machine Learning参考文献 25被引用 6

一句话总结

本文挑战了广泛持有的观点，即 GAN 通过最小化分歧来训练生成器，表明大多数生成器损失函数并非分歧，且无需匹配判别器的目标函数。本文提出了四类新型生成器损失函数——其中部分为实际分歧——并证明不同损失函数均能良好收敛，且生成质量与标准 GAN 相当，表明 GAN 的灵活性远超以往认知。

ABSTRACT

Generative adversarial networks (GANs) can be interpreted as an adversarial game between two players, a discriminator D and a generator G, in which D learns to classify real from fake data and G learns to generate realistic data by "fooling" D into thinking that fake data is actually real data. Currently, a dominating view is that G actually learns by minimizing a divergence given that the general objective function is a divergence when D is optimal. However, this view has been challenged due to inconsistencies between theory and practice. In this paper, we discuss of the properties associated with most loss functions for G (e.g., saturating/non-saturating f-GAN, LSGAN, WGAN, etc.). We show that these loss functions are not divergences and do not have the same equilibrium as expected of divergences. This suggests that G does not need to minimize the same objective function as D maximize, nor maximize the objective of D after swapping real data with fake data (non-saturating GAN) but can instead use a wide range of possible loss functions to learn to generate realistic data. We define GANs through two separate and independent D maximization and G minimization steps. We generalize the generator step to four new classes of loss functions, most of which are actual divergences (while traditional G loss functions are not). We test a wide variety of loss functions from these four classes on a synthetic dataset and on CIFAR-10. We observe that most loss functions converge well and provide comparable data generation quality to non-saturating GAN, LSGAN, and WGAN-GP generator loss functions, whether we use divergences or non-divergences. These results suggest that GANs do not conform well to the divergence minimization theory and form a much broader range of models than previously assumed.

研究动机与目标

• 挑战主流理论中认为 GAN 通过最小化分歧来训练生成器（当判别器最优时）的观点。
• 探究实践中生成器损失函数是否为实际分歧，或是否偏离了基于分歧的目标。
• 提出并评估四类新型生成器损失函数，其中部分为正式分歧，以拓展 GAN 的设计空间。
• 测试在生成器训练中使用实际分歧是否相比非分歧损失能提升性能。
• 证明生成器训练无需匹配判别器的目标函数，从而实现损失函数设计的更大灵活性。

提出的方法

• 通过两个独立优化步骤重新诠释 GAN：判别器最大化与生成器最小化，从而解耦两个目标。
• 提出四类新型生成器损失函数：(1) 匹配生成样本的判别器输出与真实标签，(2) 匹配至阈值（如 0.5），(3) 匹配生成样本输出的均值与真实样本输出的均值，(4) 使用正式分歧（如分歧匹配 DM 和对数似然匹配 LM）。
• 基于最小化判别器在生成数据上的输出与目标值（如 y_real、y_mid）之间的距离来定义生成器损失，而非依赖判别器的目标函数。
• 使用合成数据（瑞士卷）和真实数据（CIFAR-10）评估不同损失函数的收敛性与生成质量。
• 采用 Fréchet Inception 距离（FID）和 Inception Score（IS）对不同损失函数的生成质量进行定量比较。
• 分析梯度行为与收敛动态，尤其在判别器接近完美时，以评估不同损失函数的鲁棒性。

实验结果

研究问题

• RQ1 当判别器最优时，标准 GAN 生成器损失函数是否仍为实际分歧？
• RQ2 在生成器步骤中最小化正式分歧是否相比非分歧损失能带来更好的生成性能？
• RQ3 能否在不损害性能的前提下，将生成器训练与判别器目标函数解耦？
• RQ4 将生成样本的判别器输出匹配至真实标签或阈值（如 0.5）的损失函数，是否与非饱和 GAN 表现相当？
• RQ5 为何某些分歧（如 DM、LM）在合成数据上收敛不佳，尽管理论上具有优势？

主要发现

• 大多数标准 GAN 生成器损失函数，包括非饱和 GAN、LSGAN 和 WGAN-GP，即使在判别器最优时，也并非实际分歧。
• 生成器无需最小化判别器所最大化的同一目标，也无需在交换真实与生成样本后匹配判别器的目标。
• 大量损失函数——包括非分歧类型——均能良好收敛，并在 CIFAR-10 上生成质量与非饱和 GAN、LSGAN 和 WGAN-GP 相当。
• 在瑞士卷数据集上，基于分歧的损失函数（DM 和 LM with y_mid）表现较差，表明正式分歧并不能保证收敛。
• CIFAR-10 上的 FID 分数在所有测试损失函数中均表现相当，无单一损失函数显著优于其他。
• 结果表明，生成器主要通过提升判别器对生成样本的输出来学习，而非最小化分歧，从而动摇了 GAN 中分歧最小化理论基础。