[论文解读] Composite Functional Gradient Learning of Generative Adversarial Models

Rie Johnson, Tong Zhang|arXiv (Cornell University)|Jan 19, 2018

Generative Adversarial Networks and Image Synthesis参考文献 20被引用 4

一句话总结

该论文提出了一种新颖的稳定生成对抗学习方法 xICFG，基于复合函数梯度学习，避免了传统的极小化极大公式。通过迭代地利用强判别器引导的函数梯度步骤改进生成器，该方法减少了真实数据分布与生成数据分布之间的KL散度，实现了稳定训练和减少模式崩溃的最先进图像生成质量。

ABSTRACT

This paper first presents a theory for generative adversarial methods that does not rely on the traditional minimax formulation. It shows that with a strong discriminator, a good generator can be learned so that the KL divergence between the distributions of real data and generated data improves after each functional gradient step until it converges to zero. Based on the theory, we propose a new stable generative adversarial method. A theoretical insight into the original GAN from this new viewpoint is also provided. The experiments on image generation show the effectiveness of our new method.

研究动机与目标

• 开发一种稳定的生成对抗学习框架，避免传统极小化极大 GAN 的不稳定性。
• 基于函数梯度下降而非极小化极大优化，为 GAN 提供新的理论基础。
• 通过迭代式生成器优化，减少模式崩溃并提升图像生成的样本质量。
• 利用判别器输出差异（$\Delta_D$）建立训练稳定性指标，用于早期停止。

提出的方法

• 提出复合函数梯度更新：$G_t(z) = G_{t-1}(z) + \eta_t g_t(G_{t-1}(z))$，其中 $g_t$ 从数据中学习。
• 使用通过逻辑回归训练的强判别器 $D_t$ 来近似对数似然比 $\mathcal{D}(x) = \ln \frac{p_*(x)}{p(x)}$。
• 将函数梯度步定义为 $g_t(x) = s_t(x) \nabla D_t(x)$，其中 $s_t(x)$ 用于缩放，以指导生成器更新。
• 采用贪婪的迭代优化过程，在 $T$ 个步骤内，使用当前判别器在每个阶段逐步优化生成器。
• 使用判别器输出差异 $\Delta_D = |D(\text{real}) - D(\text{gen})|$ 作为实时训练稳定性指标。
• 在 MNIST、SVHN、LSUN 等数据集上应用卷积和全连接网络架构以评估性能。

实验结果

研究问题

• RQ1 能否在不依赖极小化极大公式的前提下稳定训练 GAN？
• RQ2 在复合生成器变换上进行函数梯度下降，能否减少真实数据分布与生成数据分布之间的 KL 散度？
• RQ3 所提出的方法在图像质量和训练稳定性方面是否优于现有 GAN 变体？
• RQ4 判别器输出差异 $\Delta_D$ 是否可作为训练进度或失败的可靠指标？
• RQ5 训练过程中获得的最终近似器网络能否用作紧凑且高性能的生成器？

主要发现

• xICFG 在 LSUN 和 SVHN 上取得了与 SOTA 方法（如 WGAN-gp）相当或更优的 Inception 分数。
• 在 MNIST、SVHN 和 LSUN 上，xICFG 超过了标准 GAN 和 WGAN 变体，模式崩溃现象更少。
• 该方法减少了训练不稳定性，表现为成功训练期间 $\Delta_D$ 的单调下降，失败时则出现急剧上升。
• 即使使用较小的 $T$（例如 5–15）和较小的生成器，性能依然出色，显示出高效性和可扩展性。
• 训练过程中获得的最终近似器网络在相同参数量下，性能与或优于基线模型，表明有效的知识蒸馏。
• 视觉检查确认，xICFG 生成的图像比 GAN 变体更清晰、更具多样性，尤其避免了 GAN1 中严重的模式崩溃。