[论文解读] Softmax GAN

Min Lin|arXiv (Cornell University)|Apr 20, 2017

Generative Adversarial Networks and Image Synthesis参考文献 6被引用 5

一句话总结

Softmax GAN 通过用真实样本和生成样本的组合批次上的 softmax 交叉熵损失替换原始 GAN 的二元交叉熵损失，引入了一种新颖的训练目标。该方法通过在生成器更新时强制所有样本在批次中呈现均匀的概率分布，以及在判别器更新时将概率集中于真实样本，从而稳定 GAN 训练，有效将 GAN 视为噪声对比估计（NCE）的一种重要性采样变体。

ABSTRACT

Softmax GAN is a novel variant of Generative Adversarial Network (GAN). The key idea of Softmax GAN is to replace the classification loss in the original GAN with a softmax cross-entropy loss in the sample space of one single batch. In the adversarial learning of $N$ real training samples and $M$ generated samples, the target of discriminator training is to distribute all the probability mass to the real samples, each with probability $\frac{1}{M}$, and distribute zero probability to generated data. In the generator training phase, the target is to assign equal probability to all data points in the batch, each with probability $\frac{1}{M+N}$. While the original GAN is closely related to Noise Contrastive Estimation (NCE), we show that Softmax GAN is the Importance Sampling version of GAN. We futher demonstrate with experiments that this simple change stabilizes GAN training.

研究动机与目标

• 通过重新定义对抗损失函数来解决标准 GAN 训练中的不稳定性问题。
• 将 GAN 训练重新表述为基于重要性采样的学习过程。
• 通过一种直接作用于单个小批量样本空间的新损失目标来提高训练稳定性。
• 建立 Softmax GAN 与噪声对比估计（NCE）之间的理论联系。

提出的方法

• 用包含 N 个真实样本和 M 个生成样本的组合批次上的 softmax 交叉熵损失，替换原始 GAN 的二元分类损失。
• 在判别器训练期间，为每个真实样本分配概率 1/M，为所有生成样本分配概率 0。
• 在生成器训练期间，为组合批次中的每个样本分配相等的概率 1/(M+N)。
• 将生成器的目标表述为最小化均匀分布与模型输出概率之间的交叉熵。
• 该方法隐式地将 GAN 训练视为 NCE 的一种重要性采样变体，利用小批量的结构以改善优化。

实验结果

研究问题

• RQ1 将标准 GAN 的损失替换为 softmax 交叉熵损失，对训练稳定性有何影响？
• RQ2 Softmax GAN 与噪声对比估计（NCE）之间存在何种理论关系？
• RQ3 基于小批量的概率分布目标是否能够改善 GAN 的收敛性和性能？
• RQ4 与标准 GAN 相比，该方法在训练动态和样本质量方面表现如何？

主要发现

• Softmax GAN 通过在小批量上强制实施结构化的概率分布，稳定了 GAN 训练，减少了模式崩溃和训练发散。
• 该方法在理论上等价于噪声对比估计（NCE）的一种重要性采样版本，为 GAN 训练提供了新的视角。
• 实证结果表明，与标准 GAN 相比，其训练稳定性得到改善，尽管提供的文本中未报告 FID 或 IS 等具体定量指标。
• 该方法在保持 GAN 生成能力的同时，通过在小批量样本空间上施加显式的概率约束，简化了损失景观。