[论文解读] Unsupervised Domain Adaptation without Source Data by Casting a BAIT.

Shiqi Yang, Yaxing Wang+3 more|arXiv (Cornell University)|Oct 23, 2020

Domain Adaptation and Few-Shot Learning参考文献 36被引用 55

一句话总结

本文提出 BAIT，一种无需源数据的无监督域自适应方法，通过可学习分类器作为‘诱饵’，将目标特征与源分类器原型对齐。通过固定源分类器并引入可吸引因域偏移而偏离的目标特征的新原型，BAIT 在基准数据集上实现了最先进性能。

ABSTRACT

Unsupervised domain adaptation (UDA) aims to transfer the knowledge learned from a labeled source domain to an unlabeled target domain. Existing UDA methods require access to source data during adaptation, which may not be feasible in some real-world applications. In this paper, we address the source-free unsupervised domain adaptation (SFUDA) problem, where only the source model is available during the adaptation. We propose a method named BAIT to address SFUDA. Specifically, given only the source model, with the source classifier head fixed, we introduce a new learnable classifier. When adapting to the target domain, class prototypes of the new added classifier will act as a bait. They will first approach the target features which deviate from prototypes of the source classifier due to domain shift. Then those target features are pulled towards the corresponding prototypes of the source classifier, thus achieving feature alignment with the source classifier in the absence of source data. Experimental results show that the proposed method achieves state-of-the-art performance on several benchmark datasets compared with existing UDA and SFUDA methods.

研究动机与目标

• 解决在自适应过程中无法访问源数据时的无监督域自适应挑战。
• 开发一种仅利用预训练的源模型在目标域中进行域自适应的方法。
• 在不访问源数据的情况下，实现源域与目标域之间的有效特征对齐。
• 在标准基准上超越现有的无监督和无源域自适应方法。

提出的方法

• 引入一种新型可学习分类器，其类别原型作为‘诱饵’，吸引因域偏移而偏离的目标特征。
• 在自适应过程中固定源模型的分类器头，以保留学习到的源知识。
• 将偏离源分类器原型的目标特征拉向新分类器的原型，以减少域差异。
• 仅使用目标域数据，通过优化新分类器的原型，迭代地改进目标特征对齐。
• 该方法依赖于特征聚类和基于原型的优化，实现在无源数据情况下的对齐。
• 通过利用源分类器输出的结构不变性，该框架在无源设置下实现域自适应。

实验结果

研究问题

• RQ1 在自适应过程中无法访问源数据时，能否实现有效的域自适应？
• RQ2 当无法访问源数据时，如何实现源域与目标域之间的特征对齐？
• RQ3 可学习原型能否作为有效的‘诱饵’，引导目标特征向源分类器表示靠拢？
• RQ4 仅使用源模型和目标数据的无源域自适应方法性能如何？
• RQ5 所提出方法在准确率和鲁棒性方面与现有 UDA 和 SFUDA 方法相比如何？

主要发现

• BAIT 在无源无监督域自适应设置下的多个基准数据集中实现了最先进性能。
• 与现有的 UDA 和 SFUDA 基线相比，该方法在目标域分类准确率上显著提升。
• 通过使用可学习分类器作为‘诱饵’，BAIT 有效减少了域偏移，且无需访问源数据。
• 固定的源分类器头确保了知识迁移的稳定性，而新分类器则适应目标特征。
• 所提方法在多种域偏移场景下表现出强大的泛化能力。
• 实证结果证实，基于原型的对齐结合新分类器，可在无源数据情况下实现有效自适应。