[论文解读] Domain-Symmetric Networks for Adversarial Domain Adaptation

Yabin Zhang, Hui Tang+2 more|arXiv (Cornell University)|Apr 9, 2019

Domain Adaptation and Few-Shot Learning参考文献 32被引用 40

一句话总结

引入 Domain-Symmetric Networks (SymNets) 以进行无监督的领域自适应，使用对称的源/目标分类器和共享的辅助分类器，通过两级域混淆和跨域训练对齐联合特征-类别分布。

ABSTRACT

Unsupervised domain adaptation aims to learn a model of classifier for unlabeled samples on the target domain, given training data of labeled samples on the source domain. Impressive progress is made recently by learning invariant features via domain-adversarial training of deep networks. In spite of the recent progress, domain adaptation is still limited in achieving the invariance of feature distributions at a finer category level. To this end, we propose in this paper a new domain adaptation method called Domain-Symmetric Networks (SymNets). The proposed SymNet is based on a symmetric design of source and target task classifiers, based on which we also construct an additional classifier that shares with them its layer neurons. To train the SymNet, we propose a novel adversarial learning objective whose key design is based on a two-level domain confusion scheme, where the category-level confusion loss improves over the domain-level one by driving the learning of intermediate network features to be invariant at the corresponding categories of the two domains. Both domain discrimination and domain confusion are implemented based on the constructed additional classifier. Since target samples are unlabeled, we also propose a scheme of cross-domain training to help learn the target classifier. Careful ablation studies show the efficacy of our proposed method. In particular, based on commonly used base networks, our SymNets achieve the new state of the art on three benchmark domain adaptation datasets.

研究动机与目标

• 激发无监督领域自适应并提升跨领域特征与类别的联合分布的对齐。
• 提出一个对称网络架构，具有共享的辅助组件，以实现类别级和域级混淆。
• 开发一个两级对抗性训练目标，在域级和类别级别提升域不变特征。
• 结合跨域训练以学习一个镜像源域分类器的目标域分类器。
• 实证验证该方法并在基准数据集上展示最先进的性能。

提出的方法

• 提出 SymNet，具有两个并行的源/目标分类器 Cs 和 Ct，以及一个额外的共享分类器 Cst，与两者共享神经元。
• 在带标签的源数据上用标准交叉熵损失训练 Cs；通过跨域监督使用源标签来建立与 Cs 的对应关系来训练 Ct。
• 使用 Cst 通过双向交叉熵损失进行域判别和域混淆，分离源域和目标域的预测。
• 引入两级域混淆：类别级混淆（利用带标签的源数据在类别层面强制不变性）和域级混淆（使用未标记的目标数据对齐域分布）。
• 加入一个熵最小化项，以在鼓励具有信心的目标识别的同时避免初期的错误标注；仅将其应用于更新特征提取器 G。
• 将这些组件整合为统一目标，训练分类器 Cs、Ct、Cst 以及特征提取器 G。

实验结果

研究问题

• RQ1 在域间对齐特征和类别的联合分布能否提升无监督领域自适应，超越仅特征层面对齐？
• RQ2 具有辅助共享分类器的对称架构是否能够实现有效的类别级和域级混淆，从而提升目标性能？
• RQ3 类别级和域级混淆损失如何促成学习出更具迁移性的特征？
• RQ4 跨域监督能否在没有目标标签的情况下帮助训练出有竞争力的目标域分类器？
• RQ5 在两级混淆框架中熵最小化对收敛和性能有何影响？

主要发现

• 在基于 50 层 ResNet 主干的情况下，SymNets 在 Office-31、ImageCLEF-DA、Office-Home 基准上达到最先进的准确率。
• 在 Office-31 上，SymNets 在六个任务上的平均准确率为 88.4%，超过了若干已有方法。
• 在 ImageCLEF-DA 上，SymNets 的平均准确率提升至 89.9%，超过了竞争方法。
• 在 Office-Home 上，SymNets 的平均准确率为 67.6%，超过了许多基线并在一个具有挑战性的数据集上展示了鲁棒性。
• 消融研究表明域混淆、类别级混淨和熵最小化共同带来性能提升，而跨域监督（E task^t）对于学习强大的目标分类器至关重要。
• t-SNE 可视化表明与基线相比，SymNets 的特征分布更紧凑、更加对齐域。