[论文解读] Model Adaptation: Historical Contrastive Learning for Unsupervised Domain Adaptation without Source Data

Jiaxing Huang, Dayan Guan+2 more|arXiv (Cornell University)|Oct 7, 2021

Domain Adaptation and Few-Shot Learning参考文献 106被引用 93

一句话总结

本论文提出历史对比学习（HCL），用于无监督模型适应（UMA），在无需访问源数据的情况下将源训练的模型适配到目标分布，利用历史模型进行实例级和类别级对比学习与伪标签学习，并结合一致性权重。

ABSTRACT

Unsupervised domain adaptation aims to align a labeled source domain and an unlabeled target domain, but it requires to access the source data which often raises concerns in data privacy, data portability and data transmission efficiency. We study unsupervised model adaptation (UMA), or called Unsupervised Domain Adaptation without Source Data, an alternative setting that aims to adapt source-trained models towards target distributions without accessing source data. To this end, we design an innovative historical contrastive learning (HCL) technique that exploits historical source hypothesis to make up for the absence of source data in UMA. HCL addresses the UMA challenge from two perspectives. First, it introduces historical contrastive instance discrimination (HCID) that learns from target samples by contrasting their embeddings which are generated by the currently adapted model and the historical models. With the historical models, HCID encourages UMA to learn instance-discriminative target representations while preserving the source hypothesis. Second, it introduces historical contrastive category discrimination (HCCD) that pseudo-labels target samples to learn category-discriminative target representations. Specifically, HCCD re-weights pseudo labels according to their prediction consistency across the current and historical models. Extensive experiments show that HCL outperforms and state-of-the-art methods consistently across a variety of visual tasks and setups.

研究动机与目标

• 将无监督模型适应（UMA）作为在无法访问源数据时替代传统无监督领域自适应的方法的动机。
• 引入一种基于记忆的方法，在目标域适应过程中保持源假设。
• 开发两种互补的对比机制，在没有源数据的情况下学习目标表示：实例判别的 HCID 和类别判别的 HCCD。
• 提供理论见解和广泛的跨任务实证验证（分割、检测、分类），显示 HCL 相对于最先进 UMA 方法的有效性。

提出的方法

• 历史对比实例判别（HCID）：使用当前模型的嵌入作为查询，来自历史模型的嵌入作为键，执行基于记忆的对比损失，拉近正样本、推远负样本，关键可靠性通过历史学习质量重新加权。
• 历史对比类别判别（HCCD）：使用当前和历史预测对目标样本进行伪标签化，然后通过历史一致性对自监督损失进行重新加权，以学习类别判别表示。
• 历史一致性铰链：伪标签以当前与历史模型的一致性为条件，从而实现对学习良好的样本的选择性自训练。
• 理论框架将 HCID 与最大似然/EM 视角相关联，并在某些条件下证明收敛；同样，HCCD 被框定为一个带收敛条件的分类最大似然问题。

实验结果

研究问题

• RQ1 通过利用历史源假设，在不访问源数据的情况下，UMA 是否能被有效实现？
• RQ2 HCID 和 HCCD 是否提供互补信号，在 UMA 下改善目标表示学习？
• RQ3 与最先进的 UMA 和一些 UDA 基线相比，HCL 在多种视觉任务（分割、检测、分类）和设置（部分/开放集）下的表现如何？
• RQ4 历史一致性在实现可靠伪标签和记忆基础学习中的作用是什么？

主要发现

• HCL 在语义分割、目标检测和图像分类任务中优于最先进的 UMA 方法。
• 将 HCL (+HCL) 融入现有 UMA 方法，始终提升性能，有时在与使用源数据的 UDA 方法相竞争的情况下达到竞争力。
• HCID 和 HCCD 提供正交的监督信号，二者结合在分割任务中达到最佳性能。
• HCL 展现出跨任务和学习设置的强泛化能力（包括部分集与开放集适应）。
• 特征可视化表明 HCL 学习了实例判别和类别判别表示，在适应目标数据的同时保持源假设。