[论文解读] Curriculum Manager for Source Selection in Multi-Source Domain Adaptation

Luyu Yang, Yogesh Balaji+2 more|arXiv (Cornell University)|Jul 2, 2020

Domain Adaptation and Few-Shot Learning参考文献 44被引用 8

一句话总结

本文提出了一种用于源域选择的课程管理者（CMSS），这是一种针对多源无监督域自适应的对抗性课程学习框架，能够基于源样本向目标域的可迁移性动态选择样本。通过训练一个独立的课程管理者模块以最大化域判别器的误差，CMSS 在训练过程中自适应地调整源样本的权重，从而在四个基准数据集上实现最先进性能，包括 DomainNet，且无需域标签或预先聚类。

ABSTRACT

The performance of Multi-Source Unsupervised Domain Adaptation depends significantly on the effectiveness of transfer from labeled source domain samples. In this paper, we proposed an adversarial agent that learns a dynamic curriculum for source samples, called Curriculum Manager for Source Selection (CMSS). The Curriculum Manager, an independent network module, constantly updates the curriculum during training, and iteratively learns which domains or samples are best suited for aligning to the target. The intuition behind this is to force the Curriculum Manager to constantly re-measure the transferability of latent domains over time to adversarially raise the error rate of the domain discriminator. CMSS does not require any knowledge of the domain labels, yet it outperforms other methods on four well-known benchmarks by significant margins. We also provide interpretable results that shed light on the proposed method.

研究动机与目标

• 为解决多源无监督域自适应（MS-UDA）中因负迁移和对齐不佳带来的挑战，即使用多个带标签的源域来适应一个无标签的目标域。
• 开发一种在训练过程中动态选择最具可迁移性的源样本的方法，且不依赖于域标签或预定义的域划分。
• 通过自动识别并优先选择与目标分布最匹配的源样本，实现在 MS-UDA 中的课程学习。
• 在源域未受约束且可能数量众多的真实世界场景中，提升模型的泛化能力和鲁棒性。

提出的方法

• CMSS 引入了一个独立的神经网络模块——课程管理者，通过对抗性训练使其最大化域判别器的误差，从而促使特征网络学习域不变表示。
• 课程管理者为源数据生成样本特定的权重，这些权重用于在训练期间重新加权域对抗损失，调节梯度流以优先处理高可迁移性样本。
• 该方法使用梯度反转，将来自判别器的课程学习信号反向传播至特征网络，实现端到端训练而无需域监督。
• 课程管理者持续随时间重新测量可迁移性，使系统能够自适应地将注意力转向新出现的、更相关的源样本。
• 该方法无需域标签、聚类或对源域数量的先验知识，适用于开放集的真实世界数据采集场景。
• 该框架被集成到标准的 DANN 架构中，将固定的域损失替换为由 CMSS 输出调制的加权域损失。

实验结果

研究问题

• RQ1 在无法访问域标签的情况下，如何在多源域自适应中学习动态的源样本选择课程？
• RQ2 课程管理者与域判别器之间的对抗性训练是否能有效提升 MS-UDA 中的可迁移性和模型泛化能力？
• RQ3 课程在训练过程中如何演变？其演变是否反映了源域之间可迁移性的有意义模式？
• RQ4 CMSS 在多大程度上优于使用固定或人工划分的源域权重的现有方法？
• RQ5 在不同目标域中，影响源样本选择的因素是什么——结构相似性、颜色或背景？

主要发现

• CMSS 在四个知名基准数据集上实现了最先进性能，包括包含约 0.6 百万张图像的大规模 DomainNet 数据集。
• 该方法显著优于强基线方法如 DANN 和 MDAN，尤其在域偏移较大的挑战性设置中表现突出。
• 课程管理者学习到了与视觉相似性相关的域偏好模式——例如，当目标域为 Sketch 时更倾向于选择 Clipart 而非 Painting，表明其选择具有意义且可解释。
• 对于如 Quickdraw 这类高域偏移的域，CMSS 展现出无明显域偏好，但仍取得高性能，表明其在域内样本选择方面具有有效性。
• 样本级可视化显示，CMSS 优先选择结构相似的样本（如圆形钟表形状）用于 Quickdraw，优先选择颜色和纹理丰富的样本用于 Clipart，体现出上下文感知的选择机制。
• 训练动态分析显示，CMSS 权重在初期波动较大，表明存在活跃的样本选择行为；随后波动减小，表明大多数样本逐渐对齐，验证了课程学习的行为特征。