[论文解读] Towards Stable and Comprehensive Domain Alignment: Max-Margin Domain-Adversarial Training

Jianfei Yang, Han Zou+2 more|arXiv (Cornell University)|Mar 30, 2020

Domain Adaptation and Few-Shot Learning参考文献 36被引用 9

一句话总结

本文提出最大边缘域对抗训练（MDAT），一种新颖的域自适应方法，用重建网络（ARN）替代传统域分类器，以稳定对抗训练并实现特征级与像素级的域对齐。MDAT在视觉与非视觉基准上均达到最先进性能，且训练更稳定，对超参数选择更具鲁棒性。

ABSTRACT

Domain adaptation tackles the problem of transferring knowledge from a label-rich source domain to a label-scarce or even unlabeled target domain. Recently domain-adversarial training (DAT) has shown promising capacity to learn a domain-invariant feature space by reversing the gradient propagation of a domain classifier. However, DAT is still vulnerable in several aspects including (1) training instability due to the overwhelming discriminative ability of the domain classifier in adversarial training, (2) restrictive feature-level alignment, and (3) lack of interpretability or systematic explanation of the learned feature space. In this paper, we propose a novel Max-margin Domain-Adversarial Training (MDAT) by designing an Adversarial Reconstruction Network (ARN). The proposed MDAT stabilizes the gradient reversing in ARN by replacing the domain classifier with a reconstruction network, and in this manner ARN conducts both feature-level and pixel-level domain alignment without involving extra network structures. Furthermore, ARN demonstrates strong robustness to a wide range of hyper-parameters settings, greatly alleviating the task of model selection. Extensive empirical results validate that our approach outperforms other state-of-the-art domain alignment methods. Moreover, reconstructing adapted features reveals the domain-invariant feature space which conforms with our intuition.

研究动机与目标

• 为解决由于高容量域分类器过度压制对抗梯度反转而导致的域对抗训练（DAT）训练不稳定性问题。
• 在不增加额外网络组件的前提下，实现特征级与像素级的域对齐。
• 通过重建适配后的特征，提升学习到的域不变特征的可解释性。
• 降低对超参数调优的敏感性，提升方法的可复现性与实际部署能力。

提出的方法

• 提出对抗重建网络（ARN），用以在DAT中替代域分类器，采用解码器形式的重建网络执行域对抗训练。
• 在重建网络中引入最大边缘损失，以限制域分类器的判别能力，从而稳定对抗训练过程。
• 采用共享的特征提取器与分类头预测器，其中重建网络学习将源域特征重建，同时使目标域特征超出一个边界。
• 支持端到端训练，其中特征提取器通过生成可被重建为源域风格的特征，来欺骗重建网络。
• 利用重建能力可视化并解释域不变特征的形成过程，为对齐机制提供洞察。
• 引入一个控制域混淆程度的边界超参数m，当m ≥ 1时，可确保解码器发挥域分类器的作用。

实验结果

研究问题

• RQ1 用重建网络替代DAT中的域分类器，是否能提升训练稳定性与梯度有效性？
• RQ2 单一网络架构是否可在不扩展结构的前提下，同时实现特征级与像素级的域对齐？
• RQ3 对适配后特征的重建，是否能为域不变表示的结构提供可解释性洞察？
• RQ4 与标准DAT相比，该方法对超参数设置的敏感性如何？
• RQ5 在存在显著域偏移的基准上，该方法是否能超越当前最先进域自适应方法？

主要发现

• MDAT在SVHN → MNIST基准上达到96.0%的准确率，显著优于DANN（74.7%）及其他SOTA方法。
• ARN模型在广泛超参数范围内（包括α ∈ [0.01, 1.0] 且 m ≥ 1）保持稳定训练与收敛，而DANN在α > 0.2时无法收敛。
• 重建的目标图像与源域图像高度相似，视觉上证实MDAT通过隐式特征到特征的转换学习到了域不变特征。
• T-SNE可视化显示，ARN（MDAT）相比DANN具有更清晰的决策边界与更优的域对齐效果，两类域的特征按类别清晰分离且跨域对齐良好。
• 最大边缘损失有效降低了重建网络的判别能力，平衡了对抗博弈，从而实现了更有效的梯度流动以促进特征学习。
• 大量消融实验表明，仅靠重建网络即可实现全面的域对齐，无需额外组件，且该方法在视觉与非视觉任务中均具有良好的泛化能力。