Skip to main content
QUICK REVIEW

[论文解读] Unsupervised Domain Adaptation with Progressive Domain Augmentation

Kevin Hua, Yuhong Guo|arXiv (Cornell University)|Apr 3, 2020
Domain Adaptation and Few-Shot Learning参考文献 40被引用 4
一句话总结

本文提出了一种新型无监督域自适应方法——渐进式域增强(PrDA),通过基于Mixup的数据插值生成虚拟中间域,并在Grassmann流形上执行渐进式子空间对齐。通过在多个对齐步骤中逐步弥合域偏移,PrDA在Office-31、Office-Caltech-10和ImageCLEF-DA基准上实现了最先进性能,尤其在高差异域自适应场景中表现突出。

ABSTRACT

Domain adaptation aims to exploit a label-rich source domain for learning classifiers in a different label-scarce target domain. It is particularly challenging when there are significant divergences between the two domains. In the paper, we propose a novel unsupervised domain adaptation method based on progressive domain augmentation. The proposed method generates virtual intermediate domains via domain interpolation, progressively augments the source domain and bridges the source-target domain divergence by conducting multiple subspace alignment on the Grassmann manifold. We conduct experiments on multiple domain adaptation tasks and the results shows the proposed method achieves the state-of-the-art performance.

研究动机与目标

  • 为解决无监督域自适应中因直接对齐失败而导致的大域偏移挑战。
  • 通过将大域偏移分解为更小、渐进的步骤,减少信息损失并提高对齐稳定性。
  • 通过利用中间虚拟域实现更平滑的域自适应,提升标准基准上的性能。
  • 验证渐进式对齐在处理高域间差异时的有效性。
  • 在多样化域自适应任务中展示最先进性能。

提出的方法

  • 该方法通过在源域与目标域之间进行基于Mixup的数据插值,生成一系列虚拟中间域。
  • 在Grassmann流形上,以渐进方式对源域与每个虚拟中间域之间执行多次子空间对齐。
  • 每次对齐步骤后,使用虚拟域中的伪标签数据对源域进行增强,逐步使源域表示更接近目标域。
  • 通过分阶段减少域偏移,而非单步完成,迭代提升对齐质量。
  • 该方法采用ResNet-50作为特征提取器,并依赖Grassmann流形上的投影矩阵实现子空间对齐。
  • 避免直接使用对抗训练或重建损失,转而专注于结构化、渐进式域对齐。

实验结果

研究问题

  • RQ1通过虚拟中间域实现渐进式域增强,能否提升无监督域自适应中的对齐稳定性和性能?
  • RQ2将大域偏移分解为多个较小的对齐步骤,是否能减少信息损失并提高泛化能力?
  • RQ3在具有高域间差异的基准(如Office-Caltech-10)上,该方法表现如何?
  • RQ4渐进式对齐是否能在准确率和鲁棒性方面优于单步域对齐方法?
  • RQ5在多样化迁移任务中,该方法与SOTA方法(如Ad-REM、MEDA和CDAN)相比表现如何?

主要发现

  • 在Office-Caltech-10基准的12项迁移任务中,PrDA在7项上达到最先进性能。
  • 在Office-Caltech-10数据集上,PrDA在D→W任务中达到99.7%的准确率,在A→W任务中达到99.3%,优于所有基线方法。
  • 在ImageCLEF-DA基准中,PrDA在I→P任务上达到81.8%准确率,P→I任务上达到91.0%,P→C任务上达到95.5%,在多个任务上优于DANN、CDAN和MEDA。
  • 该方法在高差异任务中表现强劲,A→D和D→A任务的域分类器准确率达到76.1%,表明存在显著的域偏移。
  • 即使在低差异任务中,PrDA也表现出色,显示出在不同域相似性水平下的鲁棒性。
  • 消融实验确认,与直接对齐相比,采用虚拟域的渐进式对齐显著提升了性能。

更好的研究,从现在开始

从阅读论文到最终审阅,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。