[论文解读] Joint Domain Alignment and Discriminative Feature Learning for Unsupervised Deep Domain Adaptation

Chao Chen, Zhihong Chen+2 more|arXiv (Cornell University)|Aug 28, 2018

Domain Adaptation and Few-Shot Learning参考文献 28被引用 27

一句话总结

该论文提出了一种新型无监督深度域自适应框架——联合域对齐与判别特征学习（JDDA），该框架同时对齐域分布并增强特征判别性。通过将基于实例和基于中心的判别损失整合到域对齐中，JDDA在共享特征空间中实现了更优的域不变表示，显著提升了基准迁移任务上的分类准确率，表现出更强的类内紧凑性和类间可分性。

ABSTRACT

Recently, considerable effort has been devoted to deep domain adaptation in computer vision and machine learning communities. However, most of existing work only concentrates on learning shared feature representation by minimizing the distribution discrepancy across different domains. Due to the fact that all the domain alignment approaches can only reduce, but not remove the domain shift. Target domain samples distributed near the edge of the clusters, or far from their corresponding class centers are easily to be misclassified by the hyperplane learned from the source domain. To alleviate this issue, we propose to joint domain alignment and discriminative feature learning, which could benefit both domain alignment and final classification. Specifically, an instance-based discriminative feature learning method and a center-based discriminative feature learning method are proposed, both of which guarantee the domain invariant features with better intra-class compactness and inter-class separability. Extensive experiments show that learning the discriminative features in the shared feature space can significantly boost the performance of deep domain adaptation methods.

研究动机与目标

• 解决现有域自适应方法仅减少但未消除域偏移的局限性。
• 缓解由于残余域差异导致的靠近聚类边缘或远离类中心的目标样本误分类问题。
• 通过在共享特征空间中联合优化域对齐与判别特征学习，提升迁移性能。
• 利用源域标签信息，通过共享表示学习隐式增强目标域特征的判别性。
• 证明在对齐空间中学习到的判别特征可带来在无监督域自适应下更鲁棒、更具泛化能力的模型。

提出的方法

• 提出一种基于实例的判别损失，通过最小化共享特征空间中相似样本之间的距离，增强类内紧凑性。
• 引入一种基于中心的判别损失，通过在共享特征空间中拉大类中心之间的距离，最大化类间可分性。
• 将两种判别损失与域对齐损失（如CORAL或MMD）结合，联合优化域不变性与特征判别性。
• 训练一个类似Siamese的深度神经网络，采用共享编码器和域特定的头网络，端到端优化总损失函数。
• 使用可学习超参数的平衡损失函数，结合域对齐损失、分类损失和判别损失。
• 通过t-SNE可视化和收敛性分析，验证所学特征的质量和训练动态。

实验结果

研究问题

• RQ1 联合优化域对齐与判别特征学习是否能减少残余域偏移并提升分类准确率？
• RQ2 在共享特征空间中强制实现类内紧凑性和类间可分性，对域自适应性能有何影响？
• RQ3 在无监督自适应下，源域中学习判别特征是否能导致目标域中也获得更具判别性的特征？
• RQ4 不同超参数设置对域对齐与判别学习之间权衡的影响是什么？
• RQ5 与最先进域自适应方法相比，所提出方法在收敛速度和稳定性方面表现如何？

主要发现

• JDDA在标准域自适应基准数据集上达到最先进性能，包括SVHN → MNIST和MNIST → MNIST-M，优于CORAL和MMD-based方法。
• t-SNE可视化结果表明，与基线方法相比，JDDA学习到的特征更具判别性，类间间隔更大，域对齐效果更优。
• 收敛曲线显示，JDDA比竞争方法收敛更快，且测试误差更低，尤其在使用基于中心的判别损失时表现更明显。
• 超参数敏感性分析显示，性能随判别损失权重呈钟形曲线变化，表明存在对齐与判别之间的最优平衡点。
• 基于中心的变体（JDDA-C）收敛更快且性能更优，表明对全局聚类结构的感知可改善训练动态。
• 消融研究证实，加入判别损失能显著提升准确率，证明其在缓解残余域偏移方面的有效性。