[论文解读] Associative Partial Domain Adaptation

Youngeun Kim, Sungeun Hong+4 more|arXiv (Cornell University)|Aug 7, 2020

Domain Adaptation and Few-Shot Learning参考文献 28被引用 9

一句话总结

本文提出了一种新型方法——关联部分域自适应（APDA），通过同时利用域内与域间关联来缓解部分域自适应中的负迁移问题。通过在结合源域真实标签与目标域概率标签的标签空间中进行基于图的特征传播，并引入基于移动平均标签共现度的置信度引导损失，APDA在有效处理异常样本的同时增强正向迁移，从而在多个公开基准上实现了最先进性能。

ABSTRACT

Partial Adaptation (PDA) addresses a practical scenario in which the target domain contains only a subset of classes in the source domain. While PDA should take into account both class-level and sample-level to mitigate negative transfer, current approaches mostly rely on only one of them. In this paper, we propose a novel approach to fully exploit multi-level associations that can arise in PDA. Our Associative Partial Domain Adaptation (APDA) utilizes intra-domain association to actively select out non-trivial anomaly samples in each source-private class that sample-level weighting cannot handle. Additionally, our method considers inter-domain association to encourage positive transfer by mapping between nearby target samples and source samples with high label-commonness. For this, we exploit feature propagation in a proposed label space consisting of source ground-truth labels and target probabilistic labels. We further propose a geometric guidance loss based on the label commonness of each source class to encourage positive transfer. Our APDA consistently achieves state-of-the-art performance across public datasets.

研究动机与目标

• 为解决部分域自适应（PDA）中的负迁移问题，即源域包含与目标域无关的私有类别。
• 克服现有类别级与样本级加权方法的局限性，这些方法无法有效处理类内非平凡变化，且缺乏显式的域间关系建模。
• 开发一种方法，同时利用源域私有类别内部的域内结构，以及源域与目标域中具有高标签共现度样本之间的域间对齐。
• 通过在统一框架中建模多层级关联，提升正向迁移并抑制负向迁移。

提出的方法

• APDA引入了类别关系图（CRG）模块，利用源域的硬标签与目标域的软标签构建标签空间，以建模域内与域间关联。
• CRG通过基于图的特征传播学习内在类别结构，并促进具有高标签共现度的源域与目标域样本之间的接近性。
• 提出一种置信度引导损失，利用源样本的移动平均共现度得分指导模型优化，使源域私有类别远离目标样本，而使共有类别更紧密聚集。
• 该方法将置信度引导损失与标准交叉熵损失及域对抗损失相结合，通过超参数调节实现优化平衡。
• 特征传播在融合源域真实标签与目标域预测概率标签的标签空间中进行，实现对类别关系的结构化建模。
• 该方法采用top-K选择与指数移动平均技术，以在稀疏小批量设置下稳定标签共现度的估计。

实验结果

研究问题

• RQ1 与仅依赖类别级或样本级加权的方法相比，同时建模域内与域间关联是否能提升部分域自适应（PDA）的性能？
• RQ2 如何有效缓解源域私有类别内部的非平凡类内变化，以防止负迁移？
• RQ3 源域与目标域中具有高标签共现度的样本之间的域间对齐，在多大程度上能增强PDA中的正向迁移？
• RQ4 所提出方法对超参数（如批量大小、图深度及置信度引导损失中的平滑因子）的选择是否具有鲁棒性？

主要发现

• APDA在多个公开PDA基准（包括Office-Home与Office-31）上均实现了最先进性能，持续优于现有方法。
• 在Office-Home数据集的Cl ⇒ Pr设置中，即使目标类别数量较少，APDA仍保持优异性能，展现出对类别不平衡与标签稀缺的强鲁棒性。
• 测试误差曲线显示，APDA的收敛速度与稳定性均优于标准域自适应方法及现有PDA方法。
• 使用t-SNE进行的特征可视化表明，与DANN和PADA相比，APDA学习到的特征空间更具判别性且聚类更紧密。
• 权重可视化显示，APDA为源域私有类别分配接近零的权重，有效抑制了负迁移。
• 消融实验表明，CRG模块与置信度引导损失均至关重要，任一组件被移除均导致性能下降。