[论文解读] Annealed Generative Adversarial Networks

Arash Mehrjou, Schölkopf, Bernhard+1 more|arXiv (Cornell University)|May 21, 2017

Generative Adversarial Networks and Image Synthesis参考文献 13被引用 9

一句话总结

本文提出 $\beta$-GAN，一种新型的 GAN 训练框架，通过从均匀分布逐步退火至数据分布来稳定对抗性学习。通过将生成器初始化为覆盖整个环境空间，并采用连续退火机制，$\beta$-GAN 避免了模式崩溃，并在合成数据、MNIST 和 CelebA 数据集上实现了稳定训练，无需额外的噪声注入或复杂架构。

ABSTRACT

We introduce a novel framework for adversarial training where the target distribution is annealed between the uniform distribution and the data distribution. We posited a conjecture that learning under continuous annealing in the nonparametric regime is stable irrespective of the divergence measures in the objective function and proposed an algorithm, dubbed ß-GAN, in corollary. In this framework, the fact that the initial support of the generative network is the whole ambient space combined with annealing are key to balancing the minimax game. In our experiments on synthetic data, MNIST, and CelebA, ß-GAN with a fixed annealing schedule was stable and did not suffer from mode collapse.

研究动机与目标

• 为解决标准 GAN 训练中因低维数据流形和极小化-极大化博弈失衡而导致的不稳定性和模式崩溃问题。
• 通过将生成器初始化为在环境空间中具有完整支撑，从而稳定对抗性训练。
• 提出一种从均匀分布到数据分布的连续退火调度，作为在不考虑散度度量的情况下稳定极小化-极大化博弈的机制。
• 证明仅通过利用生成器初始的完整支撑特性，即可在不添加实例噪声或修改目标函数的情况下实现稳定训练。
• 在合成数据、MNIST 和 CelebA 上验证该框架，展示一致的性能表现和无模式崩溃现象。

提出的方法

• 引入参数 $\beta$ 作为逆温度，用于在均匀分布（$\beta = 0$）与数据分布（$\beta = \infty$）之间插值。
• 使用原始的 Jensen-Shannon 散度公式进行 GAN 训练，但初始时生成器将噪声映射到环境空间上的均匀分布。
• 采用固定的退火调度，逐步将目标分布从均匀分布转向数据分布。
• 确保潜在维度 $\text{dim}(z) \geq d$，以使生成器初始时能填满整个环境空间，避免测度为零的支撑问题。
• 利用均匀分布具有完整支撑的特性，为训练初期提供强学习信号，防止判别器轻易拒绝所有生成样本。
• 在 MNIST 上使用全连接网络，在 CelebA 上使用 DCGAN 风格架构，分别应用该框架，激活函数采用批量归一化和 ReLU/LeakyReLU。

实验结果

研究问题

• RQ1 能否通过将生成器初始化为覆盖整个环境空间，而非从低维潜在分布开始，来稳定对抗性训练？
• RQ2 从均匀分布到数据分布的连续退火是否能在多种数据分布下防止 GAN 的模式崩溃？
• RQ3 在采用完整支撑初始化和退火时，极小化-极大化博弈的稳定性是否在不同散度度量下均保持不变？
• RQ4 $\beta$-GAN 是否能在不添加实例噪声或修改目标函数的情况下实现稳定训练？
• RQ5 退火过程如何随时间影响生成样本的质量与多样性？

主要发现

• 在具有 5 个或 10 个模式的合成数据上，$\beta$-GAN 无一遗漏地生成了所有模式，而原始 GAN 展现出严重的模式崩溃。
• 在 MNIST 上，$\beta$-GAN 在所有 $\beta$ 值下均生成了多样且高质量的样本，且在退火过程中，生成器从均匀噪声逐步演化为真实数字。
• 在 CelebA 上，$\beta$-GAN 生成了清晰且多样的人脸图像，即使在高复杂度下也未出现模式崩溃，且训练曲线显示真实与生成样本的判别器输出保持稳定。
• $\beta$-GAN 的训练曲线表现出一致的稳定性和鲁棒性，即使在数据复杂度增加时，真实与生成样本的判别器得分差距也极小。
• 生成器中使用 ReLU 防止了在使用平滑非线性激活函数（如 Tanh）时观察到的“冻结噪声”模式崩溃，表明架构对训练稳定性具有敏感性。
• 该框架在固定退火调度下实现了稳定训练，且在不同数据集和架构（包括全连接和 DCGAN 基础模型）上结果均具鲁棒性。