[论文解读] Task Specific Adversarial Cost Function

Antonia Creswell, Anil A. Bharath|arXiv (Cornell University)|Sep 27, 2016

Generative Adversarial Networks and Image Synthesis参考文献 30被引用 13

一句话总结

本文提出了一种针对生成对抗网络（GANs）的任务特定对抗损失函数，该函数在最小化KL[P||Q]（有利于检索和分类等判别性任务）与最小化KL[Q||P]（有利于生成）之间进行插值，受超参数π控制。实验表明，调节π可在生成（通过更平滑的插值）和判别性任务（如少样本学习和检索）上均提升性能，优于标准GAN训练。

ABSTRACT

The cost function used to train a generative model should fit the purpose of the model. If the model is intended for tasks such as generating perceptually correct samples, it is beneficial to maximise the likelihood of a sample drawn from the model, Q, coming from the same distribution as the training data, P. This is equivalent to minimising the Kullback-Leibler (KL) distance, KL[Q||P]. However, if the model is intended for tasks such as retrieval or classification it is beneficial to maximise the likelihood that a sample drawn from the training data is captured by the model, equivalent to minimising KL[P||Q]. The cost function used in adversarial training optimises the Jensen-Shannon entropy which can be seen as an even interpolation between KL[Q||P] and KL[P||Q]. Here, we propose an alternative adversarial cost function which allows easy tuning of the model for either task. Our task specific cost function is evaluated on a dataset of hand-written characters in the following tasks: Generation, retrieval and one-shot learning.

研究动机与目标

• 为解决标准GAN优化Jensen-Shannon散度导致在纯生成或判别性任务中表现次优的问题。
• 开发一种可调的损失函数，以优先最小化KL[Q||P]（生成真实样本）或KL[P||Q]（学习判别性表征）。
• 在Omniglot数据集上评估所提损失函数在图像生成、检索和少样本学习等多种任务上的表现。
• 证明超参数π可系统性地控制样本真实感与表征质量之间的权衡。

提出的方法

• 提出一种由π参数化的改进对抗损失函数，该函数在标准GAN损失与任务特定变体之间进行插值。
• 该损失函数的设计使得当π较小时，近似于最小化KL[P||Q]，有利于判别性能；当π较大时，近似于最小化KL[Q||P]，有利于生成。
• 该方法使用修改后的判别器损失，根据π值对真实样本和生成样本施加不同权重，从而实现训练目标的动态调节。
• 训练过程采用生成器与判别器的交替更新，通过调整更新频率以稳定训练，尤其在π值极端时。
• 通过潜在空间插值评估图像生成性能，并在Omniglot数据集上评估检索与少样本分类性能。
• 在z空间中采用球面插值，以视觉方式评估不同π值下生成样本的质量与连续性。

实验结果

研究问题

• RQ1 能否设计一种改进的对抗损失函数，以优先考虑图像生成或判别性表征学习？
• RQ2 调节超参数π是否能系统性提升生成与判别性任务的性能？
• RQ3 与标准GAN训练相比，所提损失函数在样本质量与表征实用性方面表现如何？
• RQ4 该模型能否在少样本学习与检索任务上实现最先进性能？

主要发现

• 使用π = 0.9训练的GAN在随机潜在码之间产生了更平滑的插值，表明样本连续性与真实感更好，支持KL[Q||P]的最小化。
• 使用π = 0.01训练的GAN在检索与少样本学习任务中优于标准GAN，表明判别性表征学习能力得到提升，与KL[P||Q]最小化一致。
• 该方法在Omniglot数据集上首次实现了按字母分类的少样本分类准确率，超越了以往仅在5个随机选择类别上评估的工作。
• 在π = 0.1时，模型在真实感与多样性之间达到平衡，生成样本比标准GAN更具多样性，同时真实感高于π = 0.01的设置。
• 对插值结果的视觉检查显示，使用π = 0.9时潜在空间中更少出现无意义的间隙，证实了对数据流形的更好建模。
• 通过选择π，该方法可实现对模型行为的细粒度控制，使从业者能够为特定下游任务定制GAN。