[论文解读] Improved generator objectives for GANs

Ben Poole, Alexander A. Alemi+2 more|arXiv (Cornell University)|Dec 8, 2016

Generative Adversarial Networks and Image Synthesis参考文献 13被引用 52

一句话总结

本文将 GAN 训练重新解释为交替进行密度比估计与散度最小化，揭示了标准 GAN 生成器目标实际上针对一种类似于逆 KL 散度的模式搜寻散度，这解释了生成样本多样性差的原因。本文提出了一类新的生成器目标，可直接最小化任意 f-散度，从而实现对样本质量与多样性的可控权衡，实验结果表明在 CIFAR-10 上实现了更高的多样性，且未牺牲质量。

ABSTRACT

We present a framework to understand GAN training as alternating density ratio estimation and approximate divergence minimization. This provides an interpretation for the mismatched GAN generator and discriminator objectives often used in practice, and explains the problem of poor sample diversity. We also derive a family of generator objectives that target arbitrary $f$-divergences without minimizing a lower bound, and use them to train generative image models that target either improved sample quality or greater sample diversity.

研究动机与目标

• 解释实践中常用的生成器与判别器目标之间不匹配的原因，特别是为何这会导致样本多样性差。
• 提供一个理论框架，证明实际 GAN 训练目标可被解释为针对一种模式搜寻散度。
• 推导出一类新的生成器目标，可直接最小化任意 f-散度，从而实现对样本多样性和质量的控制。
• 通过实证验证，这些新目标可在保持或提升样本质量的同时，显著提高 CIFAR-10 上的样本多样性。
• 提供一种有原则的替代方案，取代标准 GAN 生成器目标，避免下界最小化，并实现目标散度的优化。

提出的方法

• 将 GAN 训练重新解释为交替进行密度比估计与 f-散度最小化的步骤，将整个过程建模为最小化数据分布与模型分布之间特定 f-散度的优化过程。
• 推导出一种新的生成器目标 $\mathcal{G}_{\text{ALT}}$，其通过最小化判别器输出的期望负值来实现，该目标对应于最小化一种类似于逆 KL 的模式搜寻散度。
• 提出一个通用框架，通过选择适当的散度函数的 Fenchel 共轭，实现对任意 f-散度的优化。
• 在所有实验中使用相同的判别器目标（标准 GAN），仅通过改变生成器目标来隔离其对样本多样性和质量的影响。
• 采用一组由 α 参数化的 α-散度，系统性地探索模式覆盖与模式搜寻之间的权衡。
• 在 CIFAR-10 上使用相同架构与超参数训练生成模型，判别器采用标准 GAN 目标，生成器则采用不同的 f-散度目标。

实验结果

研究问题

• RQ1 为何标准 GAN 生成的样本虽然视觉质量高，但多样性差？
• RQ2 实际 GAN 生成器目标究竟最小化了哪种散度？它与理论上合理的优化目标有何不同？
• RQ3 我们能否设计出直接最小化任意 f-散度的生成器目标，而无需依赖下界最小化？
• RQ4 不同 f-散度目标如何影响 GAN 生成图像中样本质量与多样性的权衡？
• RQ5 通过修改生成器目标，能否在不降低样本质量的前提下实现更高的样本多样性？

主要发现

• 标准 GAN 生成器目标 ($\mathcal{G}_{\text{ALT}}$) 最小化的是一种行为类似于逆 KL 的模式搜寻散度，这解释了实践中频繁出现的模式丢失问题。
• 通过生成器目标优化更注重模式覆盖的散度（如平方 Hellinger 散度或 KL 散度），可在 CIFAR-10 上显著提升样本多样性，表现为更好的类别与颜色覆盖。
• 即使对于高度模式搜寻的散度（如 α = -3），样本质量依然保持较高水平，表明模式搜寻并不必然导致视觉质量下降。
• 所提出的生成器目标可实现多样性和质量之间的平滑权衡，且在优化更注重模式覆盖的散度时，样本质量未出现明显下降。
• 在所有生成器目标下，使用标准 GAN 目标训练的判别器均能持续生成高质量样本，证实生成器目标是影响多样性的主要驱动因素。
• 视觉对比显示，模式覆盖型目标（如 α = 0.5、KL）生成的样本更具多样性且类别更均衡，而模式搜寻型目标（如 α = -3）则过度代表绿色和棕色等主导类别。