[论文解读] Domain Adaptation with Auxiliary Target Domain-Oriented Classifier

Jian Liang, Dapeng Hu+1 more|arXiv (Cornell University)|Jul 8, 2020

Domain Adaptation and Few-Shot Learning参考文献 78被引用 8

一句话总结

本文提出ATDOC，一种用于无监督域适应的新型伪标签框架，通过引入基于记忆库的目标域特定非参数分类器，减轻分类器偏差。通过在不增加网络参数的情况下采用邻域聚合或最近邻质心分类，ATDOC在多种域适应基准（包括VisDA-C和Office-Home）上显著优于域对齐和先前的自监督学习方法，达到最先进性能。

ABSTRACT

Domain adaptation (DA) aims to transfer knowledge from a label-rich but heterogeneous domain to a label-scare domain, which alleviates the labeling efforts and attracts considerable attention. Different from previous methods focusing on learning domain-invariant feature representations, some recent methods present generic semi-supervised learning (SSL) techniques and directly apply them to DA tasks, even achieving competitive performance. One of the most popular SSL techniques is pseudo-labeling that assigns pseudo labels for each unlabeled data via the classifier trained by labeled data. However, it ignores the distribution shift in DA problems and is inevitably biased to source data. To address this issue, we propose a new pseudo-labeling framework called Auxiliary Target Domain-Oriented Classifier (ATDOC). ATDOC alleviates the classifier bias by introducing an auxiliary classifier for target data only, to improve the quality of pseudo labels. Specifically, we employ the memory mechanism and develop two types of non-parametric classifiers, i.e. the nearest centroid classifier and neighborhood aggregation, without introducing any additional network parameters. Despite its simplicity in a pseudo classification objective, ATDOC with neighborhood aggregation significantly outperforms domain alignment techniques and prior SSL techniques on a large variety of DA benchmarks and even scare-labeled SSL tasks.

研究动机与目标

• 为解决伪标签方法在域适应中因过拟合源域数据而产生的分类器偏差问题。
• 通过仅针对目标数据学习领域特定分类器，提升无监督域适应中伪标签的质量。
• 开发一种轻量化、无参数的方法，在避免复杂网络架构的同时保持高性能。
• 在标准域适应和少样本半监督学习基准上评估所提方法的有效性。
• 研究温度缩放、邻域大小和正则化权重等超参数对模型性能的影响。

提出的方法

• 引入一个辅助的目标域导向分类器（ATDOC），独立于主网络在未标注目标数据上运行，与源域训练网络解耦。
• 使用记忆库存储未标注目标样本的特征表示和软预测，以实现高效推理。
• 采用两种非参数分类器：最近邻质心（NC）和邻域聚合（NA），均无需额外网络参数。
• 对NC采用指数移动平均动态更新记忆库中的类别质心。
• 对于NA，从记忆库中邻近样本聚合特征和预测，生成置信加权的伪标签。
• 将目标导向的伪标签与可学习的正则化权重λ结合，采用线性热身调度以稳定早期训练。

实验结果

研究问题

• RQ1 非参数、面向目标的分类器能否减少域适应中伪标签的偏差？
• RQ2 基于记忆的特征聚合的邻域聚合方法在性能和鲁棒性上与域对齐或标准伪标签方法相比如何？
• RQ3 邻域大小m、温度T和正则化权重λ等超参数对模型收敛和准确率的影响如何？
• RQ4 将源域特征引入记忆库是否会降低性能，原因是什么？
• RQ5 ATDOC能否泛化到标签数据极度有限的少样本半监督学习任务中？

主要发现

• ATDOC-NA在VisDA-C上达到89.7%的top-1准确率，优于先前最先进方法，包括域对齐和MixMatch。
• 在Office-Home上，ATDOC-NA达到80.3%的准确率，显著优于基线伪标签方法和MixMatch，尤其在低样本设置下表现更优。
• 在ATDOC-NA中移除置信加权（q̂i,ŷi）后，VisDA-C上的准确率下降至89.4%，证明实例级置信度在伪标签中的重要性。
• 在VisDA-C上使用T=1的温度会将性能降至85.8%，证实温度缩放在软化预测中的优势。
• 在Office-31上将源域特征引入记忆库会损害性能（准确率为87.4%），验证了仅学习目标域的必要性。
• 在DomainNet-126上，ATDOC-NA在半监督学习中优于MCC，展现出在大量未标注数据下的强大泛化能力。