[论文解读] Associative Domain Adaptation

Philip Haeusser, Thomas Frerix+2 more|arXiv (Cornell University)|Aug 2, 2017

Domain Adaptation and Few-Shot Learning参考文献 26被引用 39

一句话总结

本文提出了一种新型端到端域自适应方法——关联域自适应（associative domain adaptation），该方法在最小化标记源域分类误差的同时，通过一种标签感知的关联损失，强制源域和目标域嵌入表示之间的统计相似性。该方法在使用通用卷积神经网络（CNN）且无结构或显著计算开销的前提下，在多个基准测试中实现了最先进性能，即使在MMD值较高时，其目标域准确率仍优于基于MMD的方法。

ABSTRACT

We propose associative domain adaptation, a novel technique for end-to-end domain adaptation with neural networks, the task of inferring class labels for an unlabeled target domain based on the statistical properties of a labeled source domain. Our training scheme follows the paradigm that in order to effectively derive class labels for the target domain, a network should produce statistically domain invariant embeddings, while minimizing the classification error on the labeled source domain. We accomplish this by reinforcing associations between source and target data directly in embedding space. Our method can easily be added to any existing classification network with no structural and almost no computational overhead. We demonstrate the effectiveness of our approach on various benchmarks and achieve state-of-the-art results across the board with a generic convolutional neural network architecture not specifically tuned to the respective tasks. Finally, we show that the proposed association loss produces embeddings that are more effective for domain adaptation compared to methods employing maximum mean discrepancy as a similarity measure in embedding space.

研究动机与目标

• 解决仅在有标记源域数据可用时，如何在无标记目标域上训练高精度分类器的挑战。
• 通过在源域和目标域神经网络嵌入表示之间强制实现统计不变性，提升域自适应性能。
• 开发一种无需特定领域架构修改即可增强特征对齐的方法。
• 证明在真实世界域自适应任务中，标签感知的嵌入关联优于基于MMD的相似性度量。

提出的方法

• 该方法通过联合损失函数训练神经网络，联合损失包括在有标记源域上的标准交叉熵分类损失，以及一种新颖的嵌入空间关联损失。
• 关联损失显式鼓励来自同一类别的源域和目标域样本在嵌入空间中彼此接近，从而促进域不变表示。
• 该方法具有通用性，可轻松集成到任何现有分类网络中，仅需极少的计算和结构改动。
• 该方法使用类似对比损失的机制，比较源域和目标域样本的特征，基于共享的类别标签强化关联。
• 它避免使用显式的域判别网络或协方差匹配，而是依赖于样本级别的直接关联。
• 训练过程为端到端，无需在目标数据上进行微调。

实验结果

研究问题

• RQ1 在嵌入空间中，与基于MMD的方法相比，标签感知的关联损失是否能提升域自适应性能？
• RQ2 强制同一类别在源域和目标域中的嵌入表示相似，是否能提升在无标记目标域上的泛化能力？
• RQ3 能否将一种简单、即插即用的损失应用于任意预训练分类器，以实现最先进水平的域自适应性能？
• RQ4 在嵌入空间中最小化MMD是否为实现低目标域测试误差的充分或必要条件？

主要发现

• 关联域自适应在所有评估基准上均使用通用卷积神经网络实现了最先进性能，且无需针对任务进行调优。
• 该方法在降低目标域测试误差方面优于基于MMD的域自适应方法，即使MMD值更高，表明更低的MMD并不保证更好的分类性能。
• t-SNE可视化显示，采用关联损失训练的嵌入在源域和目标域中均形成更紧密、更易分离的聚类，相比基于MMD的训练。
• 在大多数情况下，该关联损失同时降低了MMD，但其主要优势在于提升了类别可分性和跨域标签一致性。
• 在SVHN → MNIST基准中，尽管MMD值相对较高，该方法仍取得了最佳测试准确率之一，证明了标签感知对齐的优越性。