[论文解读] Learning Loss Functions for Semi-supervised Learning via Discriminative Adversarial Networks

Cícero Nogueira dos Santos, Kahini Wadhawan+1 more|arXiv (Cornell University)|Jul 7, 2017

Generative Adversarial Networks and Image Synthesis参考文献 37被引用 24

一句话总结

该论文提出了一种新型框架——判别式对抗网络（Discriminative Adversarial Networks, DAN），通过使用两个判别器而非生成器-判别器对来学习预测器的损失函数。通过对抗性地训练预测器和裁判网络，DAN 实现了高效的半监督学习，并自动学习到表现优异的损失函数，其性能优于标准损失函数（如成对损失和负对数似然损失），尤其在标注数据有限的情况下表现更优。

ABSTRACT

We propose discriminative adversarial networks (DAN) for semi-supervised learning and loss function learning. Our DAN approach builds upon generative adversarial networks (GANs) and conditional GANs but includes the key differentiator of using two discriminators instead of a generator and a discriminator. DAN can be seen as a framework to learn loss functions for predictors that also implements semi-supervised learning in a straightforward manner. We propose instantiations of DAN for two different prediction tasks: classification and ranking. Our experimental results on three datasets of different tasks demonstrate that DAN is a promising framework for both semi-supervised learning and learning loss functions for predictors. For all tasks, the semi-supervised capability of DAN can significantly boost the predictor performance for small labeled sets with minor architecture changes across tasks. Moreover, the loss functions automatically learned by DANs are very competitive and usually outperform the standard pairwise and negative log-likelihood loss functions for both semi-supervised and supervised learning.

研究动机与目标

• 为解决在半监督学习中设计能同时利用标注数据和未标注数据的有效损失函数的挑战。
• 开发一种隐式学习最优损失函数的框架，避免手动设计或依赖数据生成。
• 为结构化预测任务（如排序和文本分类）实现半监督学习，尤其适用于文本等离散数据生成困难的自然语言处理任务。
• 通过对抗性训练利用未标注数据，在小规模标注数据集上提升模型性能。
• 提供一种稳定且与架构无关的损失函数学习方法，具备跨任务的泛化能力。

提出的方法

• DAN 使用两个判别器：预测器 P 将输入 x 映射到输出 y，裁判 J 则用于区分真实 (x, y) 对与预测的 (x, y) 对。
• 预测器 P 通过生成能欺骗裁判 J 使其将预测结果分类为真实的输出，从而隐式学习到与任务相关的损失函数。
• 裁判 J 通过正确区分真实标注对与预测对进行训练，形成一个极小化-极大化博弈，从而塑造损失函数的结构。
• 该框架避免了数据生成，因此适用于文本等离散数据，与传统 GAN 不同。
• 为裁判网络引入了一种新型评分函数，以提升训练稳定性。
• 该方法在基于 CNN 的文本分类和答案句子选择（排序）任务中进行了实例化，采用简单架构以隔离 DAN 框架的贡献。

实验结果

研究问题

• RQ1 是否可以通过双判别器对抗框架在无需数据生成的情况下学习到有效的预测器损失函数？
• RQ2 DAN 框架在标注数据有限的半监督学习中如何提升性能？
• RQ3 自动学习到的损失函数是否能超越标准损失函数（如负对数似然损失和成对排序损失）？
• RQ4 为何 DAN 在排序任务中比在文本分类任务中更有效，尤其是在标注数据增加时？
• RQ5 为稳定不同预测任务的 DAN 训练，需要哪些架构和训练方面的调整？

主要发现

• 在 SelQA 数据集上，使用 10 个标注样本的 CNN-DAN 模型取得了 0.5749 的 MAP，显著优于 CNN-hinge_loss 的 0.4610，显示出强大的半监督性能提升。
• 在 WikiQA 排序任务中，CNN-DAN 使用 10 个标注样本时取得 0.5437 的 MAP，优于基线模型 CNN-hinge_loss 的 0.5447，并在 MRR 和 NDCG 指标上持续提升。
• 在 SelQA 数据集上，半监督版本 CNN-DANunlab. 仅使用 10 个标注样本即达到 0.6891 的 MAP，表明未标注数据带来了显著的性能增益。
• 在 SSTB2 情感分类数据集上，CNN-DAN 使用 10 个标注样本时达到 63.25% 的准确率，超过 CNNnll 的 60.42%，表明所学习的损失函数优于负对数似然损失。
• 即使在监督设置下，DAN 框架学习到的损失函数也具有竞争力，CNN-DAN 在完整 SSTB2 数据集上的表现优于 CNNnll（84.70% vs. 84.38%）。
• 尽管存在训练稳定性问题，CNN-DANunlab. 在小规模标注数据集上仍表现出显著的性能提升，表明该框架在标注数据稀缺时尤为有效。