[论文解读] Generalizing semi-supervised generative adversarial networks to regression.

Greg Olmschenk, Zhigang Zhu+1 more|arXiv (Cornell University)|Nov 27, 2018

Generative Adversarial Networks and Image Synthesis被引用 3

一句话总结

本文通过引入一种新颖的特征对比损失，将半监督生成对抗网络从分类任务推广到回归任务，使判别器能够基于统计特征区分真实与生成数据。该方法在年龄估计和人群计数等回归任务中仅需极少标注数据即可取得优异性能，证明了半监督生成对抗网络在回归场景中的可行性。

ABSTRACT

In this work, we generalize semi-supervised generative adversarial networks (GANs) from classification problems to regression problems. In the last few years, the importance of improving the training of neural networks using semi-supervised training has been demonstrated for classification problems. We present a novel loss function, called feature contrasting, resulting in a discriminator which can distinguish between fake and real data based on feature statistics. This method avoids potential biases and limitations of alternative approaches. The generalization of semi-supervised GANs to the regime of regression problems of opens their use to countless applications as well as providing an avenue for a deeper understanding of how GANs function. We first demonstrate the capabilities of semi-supervised regression GANs on a toy dataset which allows for a detailed understanding of how they operate in various circumstances. This toy dataset is used to provide a theoretical basis of the semi-supervised regression GAN. We then apply the semi-supervised regression GANs to a number of real-world computer vision applications: age estimation, driving steering angle prediction, and crowd counting from single images. We perform extensive tests of what accuracy can be achieved with significantly reduced annotated data. Through the combination of the theoretical example and real-world scenarios, we demonstrate how semi-supervised GANs can be generalized to regression problems.

研究动机与目标

• 将原本专为分类任务设计的半监督生成对抗网络扩展至回归问题。
• 通过引入一种新型损失函数，解决回归任务中缺乏有效半监督方法的问题。
• 在回归任务中，利用少量标注数据与大量未标注数据，实现深度神经网络的有效训练。
• 为所提出的方法提供理论基础，并在合成数据集与真实世界数据集上进行实证验证。

提出的方法

• 提出一种特征对比损失函数，使判别器能够基于统计特征而非类别标签来区分真实与生成数据。
• 通过将判别器的关注点从类别概率转向特征层面的统计量，对生成对抗网络框架进行适应性调整以适用于回归任务。
• 使用一个简化数据集分析模型行为，并为泛化机制提供理论洞见。
• 将该方法应用于真实世界计算机视觉回归任务，包括年龄估计、方向盘转向角预测以及人群计数。
• 以对抗方式训练生成器与判别器，其中判别器被优化以检测真实样本与生成样本在特征统计量上的分布差异。
• 结合对抗损失与特征对比损失，以提升泛化能力并减少低数据场景下的偏差。

实验结果

研究问题

• RQ1 半监督生成对抗网络能否被有效推广至回归任务？
• RQ2 特征对比损失在标注数据有限的回归任务中如何提升性能？
• RQ3 与现有半监督回归方法相比，所提出方法在理论与实证层面具有哪些优势？
• RQ4 该方法在年龄估计和人群计数等多样化真实世界回归应用中的表现如何？

主要发现

• 所提出的半监督回归生成对抗网络在年龄估计任务中仅使用显著减少的标注数据即取得优异性能，充分体现了对未标注数据的有效利用。
• 通过对抗训练利用未标注数据，该方法在驾驶转向角预测任务中显著提升了预测精度。
• 单图人群计数任务得益于模型利用极少标注样本即可实现良好泛化的能力。
• 简化数据集的分析结果表明，特征对比损失使判别器能够有效基于特征统计量区分真实与生成数据。
• 理论分析与真实世界实验的结合验证了所提方法的鲁棒性与泛化能力。
• 实验结果表明，与基线方法相比，特征对比损失能有效降低偏差并提升低数据场景下的模型稳定性。