[论文解读] Domain-Adversarial Training of Neural Networks

Yaroslav Ganin, Evgeniya Ustinova+6 more|arXiv (Cornell University)|May 28, 2015

Autopsy Techniques and Outcomes被引用 75

一句话总结

本文提出领域对抗神经网络（DANN），一种用于无监督领域自适应的方法，通过对抗性训练领域分类器以区分源域与目标域，同时优化特征提取器以欺骗该分类器，从而训练深度神经网络学习领域不变特征。该方法仅使用带标签的源数据和无标签的目标数据，在图像分类、情感分析和行人重识别基准上实现了最先进性能，且通过梯度反转层对网络架构的修改极少。

ABSTRACT

We introduce a new representation learning approach for domain adaptation, in which data at training and test time come from similar but different distributions. Our approach is directly inspired by the theory on domain adaptation suggesting that, for effective domain transfer to be achieved, predictions must be made based on features that cannot discriminate between the training (source) and test (target) domains. The approach implements this idea in the context of neural network architectures that are trained on labeled data from the source domain and unlabeled data from the target domain (no labeled target-domain data is necessary). As the training progresses, the approach promotes the emergence of features that are (i) discriminative for the main learning task on the source domain and (ii) indiscriminate with respect to the shift between the domains. We show that this adaptation behaviour can be achieved in almost any feed-forward model by augmenting it with few standard layers and a new gradient reversal layer. The resulting augmented architecture can be trained using standard backpropagation and stochastic gradient descent, and can thus be implemented with little effort using any of the deep learning packages. We demonstrate the success of our approach for two distinct classification problems (document sentiment analysis and image classification), where state-of-the-art domain adaptation performance on standard benchmarks is achieved. We also validate the approach for descriptor learning task in the context of person re-identification application.

研究动机与目标

• 解决机器学习中的领域偏移问题，即训练数据与测试数据来自不同但相关的分布。
• 实现仅使用带标签的源数据训练模型，并将其有效迁移至无标签的目标领域，而无需目标数据的标签。
• 学习既对主任务具有判别性又对领域偏移具有不变性的深度表征。
• 通过标准反向传播将领域自适应直接集成到深度特征学习过程中。
• 在包括图像分类、情感分析和行人重识别在内的多样化任务中展示该方法的有效性。

提出的方法

• 在标准前馈神经网络中增加一个领域分类器头和一个梯度反转层，以强制实现领域不变性。
• 使用梯度反转层在反向传播过程中反转梯度流，使特征提取器在最小化领域分类器损失的同时最大化该损失。
• 使用标准随机梯度下降进行端到端训练，共享标签分类器和领域分类器的优化过程。
• 采用联合训练目标：在源数据标签上最小化分类损失，同时最大化领域分类损失，以鼓励学习领域不变特征。
• 通过在共享特征提取器之后插入梯度反转层，将该方法应用于各种网络架构，使其与任何基于反向传播的深度学习框架兼容。
• 为特征学习使用二项偏差损失，为领域分类使用逻辑损失，各任务的超参数均经过调优。

实验结果

研究问题

• RQ1 能否训练一个深度神经网络，使其学习到既对类别标签具有预测能力又对领域偏移具有不变性的特征？
• RQ2 能否仅使用带标签的源数据和无标签的目标数据学习到领域不变表征？
• RQ3 使用梯度反转层进行对抗性训练是否能提升图像分类和情感分析任务中跨领域偏移的泛化性能？
• RQ4 所提出的方法是否可扩展至分类以外的前馈任务，如行人重识别中的特征描述学习？
• RQ5 与现有领域自适应技术相比，该领域对抗方法在标准基准上的有效性如何？

主要发现

• 领域对抗训练在图像分类和情感分析的标准基准上实现了最先进性能，优于先前方法。
• 该方法在八个数据集对上一致提升了行人重识别性能，尤其在差异较大的数据集对（如PRID和VIPeR）中表现显著。
• 在VIPeR → CUHK/p1行人重识别任务中，领域对抗训练使t-SNE可视化中源域和目标域特征描述更加混杂。
• 该方法仅需50,000或20,000次训练迭代（依数据集复杂度而定）即实现高效收敛，表现出强收敛效率。
• 梯度反转层实现了通过领域判别器的有效反向传播，无需网络架构重构，使该方法具有广泛适用性。
• 该方法在分类任务之外也表现出良好泛化能力，成功应用于行人重识别中的特征描述学习，采用二项偏差损失并显著提升了CMC曲线。