[论文解读] When Source-Free Domain Adaptation Meets Learning with Noisy Labels

Yi Li, Gezheng Xu+6 more|arXiv (Cornell University)|Jan 31, 2023

Domain Adaptation and Few-Shot Learning被引用 20

一句话总结

该论文将 SFDA 重新表述为在无界标签噪声下的学习，证明在该范式下现有的 LLN 方法会失败，并显示通过 ELR 的早期时间训练现象（ETP）在多个基准测试中提升 SFDA。

ABSTRACT

Recent state-of-the-art source-free domain adaptation (SFDA) methods have focused on learning meaningful cluster structures in the feature space, which have succeeded in adapting the knowledge from source domain to unlabeled target domain without accessing the private source data. However, existing methods rely on the pseudo-labels generated by source models that can be noisy due to domain shift. In this paper, we study SFDA from the perspective of learning with label noise (LLN). Unlike the label noise in the conventional LLN scenario, we prove that the label noise in SFDA follows a different distribution assumption. We also prove that such a difference makes existing LLN methods that rely on their distribution assumptions unable to address the label noise in SFDA. Empirical evidence suggests that only marginal improvements are achieved when applying the existing LLN methods to solve the SFDA problem. On the other hand, although there exists a fundamental difference between the label noise in the two scenarios, we demonstrate theoretically that the early-time training phenomenon (ETP), which has been previously observed in conventional label noise settings, can also be observed in the SFDA problem. Extensive experiments demonstrate significant improvements to existing SFDA algorithms by leveraging ETP to address the label noise in SFDA.

研究动机与目标

• 解释源无关域适应（SFDA）中的标签噪声的本质，并将其与传统 LLN 假设进行对比。
• 从理论上证明 SFDA 的标签噪声是无界的，并且在该范式下传统的 LLN 方法难以应对。
• 证明在 SFDA 中存在早期时间训练现象（ETP），并可利用它来减轻对嘈杂标签的记忆化。
• 提出一个简单的早期学习正则化（ELR）项，并将其与现有的 SFDA 目标结合以提高性能。
• 在多个 SFDA 基准（VisDA、DomainNet、Office-Home、Office-31）以及若干 SFDA 基线方法上对 ELR 进行实证验证。

提出的方法

• 将 SFDA 模型化为由源与目标之间的域移位引起的无界标签噪声的 LLN。
• 从理论上刻画无界噪声区域，并表明在 SFDA 下有界噪声的 LLN 方法并不具有噪声容忍性。
• 利用早期时间训练现象（ETP）在早期训练阶段区分干净样本与错误标注样本。
• 引入一个 ELR 项，将当前预测锚定到移动平均的早期预测，以减少对噪声标签的记忆。
• 在不改变核心架构的前提下，将 ELR 与现有的 SFDA 目标（如 SHOT、G-SFDA、NRC）集成。
• 提供单一正则化权重 lambda 和一个动量参数 beta，以控制 ELR 动态。

实验结果

研究问题

• RQ1 在 SFDA 中的标签噪声与传统 LLN 设置之间的基本差异是什么？
• RQ2 是否可以通过利用早期时间训练现象来有效解决 SFDA 中的无界标签噪声？
• RQ3 添加早期学习正则化项（ELR）是否在标准基准上提升了 SFDA 的性能？
• RQ4 在实践中，ELR 如何与现有的 SFDA 方法（SHOT、G-SFDA、NRC）互动？
• RQ5 为有界噪声设计的 LLN 方法在 SFDA 的无界噪声下是否仍然无效？

主要发现

• 在域移位下，SFDA 的标签噪声是无界的，在错误标记的目标样本中甚至可以接近 1。
• 大多数假设有界噪声的 LLN 方法在 SFDA 问题上并不具备噪声容忍性。
• SFDA 中存在 ET P，可以利用它来提高对标签噪声的鲁棒性。
• 将 ELR 添加到 SFDA 目标在多个基准上带来持续的性能提升。
• 与仅源模型及若干基线相比，ELR 增强的 SFDA 方法在多个数据集上达到最先进的结果。
• 超参数研究表明在合理范围内对 beta 和 lambda 具有鲁棒性，但在极值时存在一定灵敏性。