[论文解读] Domain-Invariant Adversarial Learning for Unsupervised Domain Adaption

Yexun Zhang, Ya Zhang+2 more|arXiv (Cornell University)|Nov 30, 2018

Domain Adaptation and Few-Shot Learning参考文献 31被引用 14

一句话总结

该论文提出域不变对抗学习（DIAL），一种统一模型，通过共享一个编码器于源域和目标域，利用对抗训练、中心损失和条件分布对齐，学习域不变且具有判别性的特征。该方法在多个无监督域自适应基准上实现了最先进性能，通过联合优化特征表示，且在推理过程中无需域知识。

ABSTRACT

Unsupervised domain adaption aims to learn a powerful classifier for the target domain given a labeled source data set and an unlabeled target data set. To alleviate the effect of `domain shift', the major challenge in domain adaptation, studies have attempted to align the distributions of the two domains. Recent research has suggested that generative adversarial network (GAN) has the capability of implicitly capturing data distribution. In this paper, we thus propose a simple but effective model for unsupervised domain adaption leveraging adversarial learning. The same encoder is shared between the source and target domains which is expected to extract domain-invariant representations with the help of an adversarial discriminator. With the labeled source data, we introduce the center loss to increase the discriminative power of feature learned. We further align the conditional distribution of the two domains to enforce the discrimination of the features in the target domain. Unlike previous studies where the source features are extracted with a fixed pre-trained encoder, our method jointly learns feature representations of two domains. Moreover, by sharing the encoder, the model does not need to know the source of images during testing and hence is more widely applicable. We evaluate the proposed method on several unsupervised domain adaption benchmarks and achieve superior or comparable performance to state-of-the-art results.

研究动机与目标

• 通过学习域不变且具有判别性的特征表示，解决无监督域自适应中的域偏移问题。
• 通过在源域和目标域之间共享单一编码器，消除推理过程中对特定域编码器或域知识的需求。
• 通过在有标签的源数据上引入中心损失，提升特征的可分性。
• 通过使用目标域的伪标签对齐源域和目标域的条件分布，增强目标域中特征的聚类效果。
• 联合学习两个域的表示，而非在自适应过程中固定源域特征。

提出的方法

• 使用共享编码器对源域和目标域进行处理，通过对抗学习训练以生成域不变特征。
• 训练一个对抗判别器以区分源域和目标域特征，促使编码器生成难以区分域的表示。
• 对源域特征应用中心损失，以促进紧凑的、类特定的聚类，提升判别能力。
• 通过使用目标域的伪标签对齐类条件分布 $P(X|\hat{Y})$，实现条件分布对齐。
• 模型联合优化分类损失、域对抗损失、中心损失和条件分布对齐损失。
• 训练目标结合了 $\mathcal{L}_s$（分类）、$\mathcal{L}_{GAN}$（对抗）、$\mathcal{L}_{cs}$（中心损失）和 $\mathcal{L}_{ct}$（条件对齐）。

实验结果

研究问题

• RQ1 在无监督域自适应中，单一共享编码器能否有效学习源域和目标域之间的域不变特征？
• RQ2 在有标签的源数据上引入中心损失是否能提升特征可分性并增强对目标域的泛化能力？
• RQ3 通过在目标域中使用伪标签实现条件分布对齐，能否减少误分类并改善特征聚类？
• RQ4 与在自适应过程中固定源域特征提取相比，联合优化源域和目标域表示有何优势？
• RQ5 所提出的方法是否在保持源域高性能的同时，提升了目标域的性能？

主要发现

• DIAL 模型在 SVHN → MNIST 基准上达到 89.29% 的测试准确率，优于先前最先进方法。
• 在 USPS → MNIST 基准上，模型达到 84.48% 的准确率，表明其在域偏移下具有强大的泛化能力。
• 消融实验表明，加入中心损失 ($\mathcal{L}_{cs}$) 和条件对齐 ($\mathcal{L}_{ct}$) 显著提升性能，从 78.35% 提升至 89.29%。
• t-SNE 可视化结果表明，对抗训练后，源域和目标域的特征变得难以区分，而中心损失使类簇更紧凑，条件对齐使聚类更准确。
• 模型在自适应前后于源域的性能几乎完全一致（96.40 vs. 96.29），证实未对源域造成性能退化。
• 共享编码器设计使模型在推理过程中无需域信息，显著提升了实际应用潜力。