[论文解读] Adversarial Discriminative Domain Adaptation

Eric Tzeng, Judy Hoffman+2 more|arXiv (Cornell University)|Feb 17, 2017

Domain Adaptation and Few-Shot Learning参考文献 16被引用 454

一句话总结

ADDA 引入了一种带有判别式源表示、非对称目标映射以及基于 GAN 的对抗损失的无监督领域自适应方法，在跨域数字数据集和跨模态 RGB-to-depth 任务中取得了最先进的结果。

ABSTRACT

Adversarial learning methods are a promising approach to training robust deep networks, and can generate complex samples across diverse domains. They also can improve recognition despite the presence of domain shift or dataset bias: several adversarial approaches to unsupervised domain adaptation have recently been introduced, which reduce the difference between the training and test domain distributions and thus improve generalization performance. Prior generative approaches show compelling visualizations, but are not optimal on discriminative tasks and can be limited to smaller shifts. Prior discriminative approaches could handle larger domain shifts, but imposed tied weights on the model and did not exploit a GAN-based loss. We first outline a novel generalized framework for adversarial adaptation, which subsumes recent state-of-the-art approaches as special cases, and we use this generalized view to better relate the prior approaches. We propose a previously unexplored instance of our general framework which combines discriminative modeling, untied weight sharing, and a GAN loss, which we call Adversarial Discriminative Domain Adaptation (ADDA). We show that ADDA is more effective yet considerably simpler than competing domain-adversarial methods, and demonstrate the promise of our approach by exceeding state-of-the-art unsupervised adaptation results on standard cross-domain digit classification tasks and a new more difficult cross-modality object classification task.

研究动机与目标

• 在领域偏移和数据集偏差下为鲁棒的无监督领域自适应需求提供动机。
• 提出一个统一的对抗领域自适应框架并识别设计选择。
• 介绍 ADDA 作为一个判别式、非共享权重、基于 GAN 的实现。
• 展示 ADDA 在跨域数字数据集和跨模态 RGB-to-depth 任务中的有效性。

提出的方法

• 给出一个对抗式无监督自适应的广义框架。
• 使用一个领域判别器 D 来区分源编码特征与目标编码特征。
• 采用一个非对称的目标编码器 M_t，其权重与源编码器 M_s 互不共享。
• 应用一个 GAN 风格的对抗损失来训练 M_t 以欺骗 D（反向标签的 GAN 损失）。
• 用带标记的源数据初始化 M_s 和分类器 C_s，并在目标自适应期间固定 M_s。
• 证明仅通过判别建模即可在没有图像空间生成器的情况下实现有效性。

实验结果

研究问题

• RQ1 一个判别式、非对称、基于 GAN 的自适应框架在没有图像生成的情况下是否也能实现有竞争力的无监督领域自适应？
• RQ2 将源编码器和目标编码器之间的权重解耦是否优于对称共享权重的方法？
• RQ3 在标准跨域数字移位和跨模态 RGB-to-depth 移位中，ADDA 的表现如何？
• RQ4 在一个统一框架中，不同对抗损失对领域自适应的影响有哪些？

主要发现

方法	MNIST → USPS	USPS → MNIST	SVHN → MNIST
Source only	0.752±0.016	0.571±0.017	0.601±0.011
Gradient reversal	0.771±0.018	0.730±0.020	0.739
Domain confusion	0.791±0.005	0.665±0.033	0.681±0.003
CoGAN	0.912±0.008	0.891±0.008	did not converge
ADDA (Ours)	0.894±0.002	0.901±0.008	0.760±0.018

• ADDA 在 MNIST、USPS 和 SVHN 的无监督自适应三方向数字任务中达到最先进或具有竞争力的结果。
• 在 MNIST→USPS、USPS→MNIST、SVHN→MNIST 中，ADDA 分别达到 0.894±0.002、0.901±0.008 和 0.760±0.018。
• 在 NYU depth RGB-to-depth 跨模态自适应中，平均准确率从 13.9%（仅源）提升到 21.1%（ADDA 之后）。
• ADDA 显示出强大的跨域和跨模态迁移能力，而无需标注的目标数据或图像空间生成器。
• 该方法在多次域移位中优于若干对抗方法，并提供了非对称映射带来好处的见解。