[论文解读] Butterfly: One-step Approach towards Wildly Unsupervised Domain Adaptation

Feng Liu, Jie Lü+4 more|arXiv (Cornell University)|May 19, 2019

Domain Adaptation and Few-Shot Learning参考文献 70被引用 7

一句话总结

本文提出Butterfly，一种用于极端无监督域自适应（WUDA）的一阶段框架，其中源域数据存在噪声，目标域数据未标注。通过同时维护四个深度网络以联合处理噪声校正、域自适应和分类任务，Butterfly在高标签噪声条件下优于现有无监督域自适应（UDA）方法，在模拟和真实世界WUDA基准上实现了最先进性能。

ABSTRACT

In unsupervised domain adaptation (UDA), classifiers for the target domain (TD) are trained with clean labeled data from the source domain (SD) and unlabeled data from TD. However, in the wild, it is difficult to acquire a large amount of perfectly clean labeled data in SD given limited budget. Hence, we consider a new, more realistic and more challenging problem setting, where classifiers have to be trained with noisy labeled data from SD and unlabeled data from TD -- we name it wildly UDA (WUDA). We show that WUDA ruins all UDA methods if taking no care of label noise in SD, and to this end, we propose a Butterfly framework, a powerful and efficient solution to WUDA. Butterfly maintains four deep networks simultaneously, where two take care of all adaptations (i.e., noisy-to-clean, labeled-to-unlabeled, and SD-to-TD-distributional) and then the other two can focus on classification in TD. As a consequence, Butterfly possesses all the conceptually necessary components for solving WUDA. Experiments demonstrate that, under WUDA, Butterfly significantly outperforms existing baseline methods.

研究动机与目标

• 解决源域数据存在噪声而非完全清洁时训练分类器的实际挑战。
• 揭示现有无监督域自适应（UDA）方法在源数据存在噪声时的失效问题，因其依赖于干净标签的假设。
• 提出一种统一的一阶段方法，同时校正源域中的标签噪声并实现特征到目标域的自适应。
• 设计一个框架，通过维持四个深度网络联合优化噪声校正、域对齐和目标分类。
• 在多种WUDA设置下展示鲁棒性能，包括高噪声率的模拟任务和真实世界任务。

提出的方法

• Butterfly维护四个深度网络：两个用于域自适应（噪声到干净、有标签到无标签、域分布对齐），两个用于目标域分类。
• 采用基于协同教学的数据校正模块（DCP），通过两个学生网络之间的互学机制识别并校正源域中的噪声标签。
• 在损失函数中引入约束 $|\theta_{f11}^T \theta_{f21}|$，以促进特征解耦，提升噪声校正效果。
• 通过联合优化基于积分概率度量（IPM）和对抗训练的源域与目标域特征对齐，实现域自适应。
• 在目标域上使用伪标签机制以优化预测并提升泛化能力，同时校正模块确保对标签噪声的鲁棒性。
• 消融研究验证了各组件的必要性，包括四网络结构设计和基于协同教学的校正机制。

实验结果

研究问题

• RQ1 当源数据包含高水平标签噪声时，现有UDA方法是否仍能有效泛化？
• RQ2 与标准两阶段流程（先噪声校正后UDA）相比，一阶段方法在WUDA中是否可行且更有效？
• RQ3 在单一框架中联合校正标签噪声与域自适应的最优网络架构和训练策略是什么？
• RQ4 在域自适应背景下，基于协同教学的数据校正机制与其它抗噪声学习方法相比表现如何？
• RQ5 所提出的Butterfly框架在不同噪声率和多样化数据分布下性能保持程度如何？

主要发现

• Butterfly在32个模拟WUDA任务中显著优于所有基线UDA方法，在Digit基准上实现75.82%的平均目标准确率，优于次优方法的71.93%。
• 在24个模拟情感WUDA任务中，Butterfly实现63.77%的平均准确率，较第二好的方法（62.21%）高出超过1.5个百分点。
• 在3个真实世界WUDA任务中，Butterfly实现62.42%的平均准确率，展现出在多样化、真实数据分布下的持续鲁棒性。
• 消融研究证实，四网络结构优于六网络替代方案，且基于协同教学的校正机制优于解耦方法和MentorNet。
• 损失函数中的约束 $|\theta_{f11}^T \theta_{f21}|$ 显著提升性能，表明其在稳定特征学习与噪声校正中的关键作用。
• 误差率 $\rho_{01}^s$ 和 $\rho_{01}^t$ 分别以 $O(1/\sqrt{n_s T})$ 和 $O(1/\sqrt{n_t T})$ 的速率收敛至零，证实了校正过程的理论收敛性。