[论文解读] Dual Adversarial Domain Adaptation

Yuntao Du, Zhiwen Tan+4 more|arXiv (Cornell University)|Jan 1, 2020

Domain Adaptation and Few-Shot Learning参考文献 31被引用 9

一句话总结

该论文提出了一种新型方法——双重对抗域适应（DADA），通过单一的2K维判别器联合执行域级和类别级分布对齐，同时在两个判别器之间引入双重对抗机制，以增强特征的多样性与鲁棒性。该方法在Office-31和ImageCLEF-DA基准上取得了最先进性能，相较于基线方法平均准确率提升1.0%，归因于特征可分性提升与分布差异减小。

ABSTRACT

Unsupervised domain adaptation aims at transferring knowledge from the labeled source domain to the unlabeled target domain. Previous adversarial domain adaptation methods mostly adopt the discriminator with binary or $K$-dimensional output to perform marginal or conditional alignment independently. Recent experiments have shown that when the discriminator is provided with domain information in both domains and label information in the source domain, it is able to preserve the complex multimodal information and high semantic information in both domains. Following this idea, we adopt a discriminator with $2K$-dimensional output to perform both domain-level and class-level alignments simultaneously in a single discriminator. However, a single discriminator can not capture all the useful information across domains and the relationships between the examples and the decision boundary are rarely explored before. Inspired by multi-view learning and latest advances in domain adaptation, besides the adversarial process between the discriminator and the feature extractor, we also design a novel mechanism to make two discriminators pit against each other, so that they can provide diverse information for each other and avoid generating target features outside the support of the source domain. To the best of our knowledge, it is the first time to explore a dual adversarial strategy in domain adaptation. Moreover, we also use the semi-supervised learning regularization to make the representations more discriminative. Comprehensive experiments on two real-world datasets verify that our method outperforms several state-of-the-art domain adaptation methods.

研究动机与目标

• 为解决单判别器方法在捕捉跨域复杂多模态特征结构方面的局限性。
• 在统一框架中同时对齐域级和类别级分布，避免对边缘分布与条件分布对齐进行独立优化。
• 通过在两个判别器之间引入双重对抗机制，提升特征可分性，使其学习互补表征。
• 通过利用判别器之间的不一致性，增强对分布外目标样本的鲁棒性。
• 整合半监督学习正则化（熵最小化与虚拟对抗训练，VAT），以提升伪标签质量与表征学习。

提出的方法

• 使用一个2K维判别器，对每个输入同时分类域（源/目标）与类别（K类），实现域级与类别级对齐的同步进行。
• 两个判别器以双重对抗方式训练：它们在目标样本上竞争以最大化不一致性，从而促使模型学习多样化且互补的特征。
• 特征提取器被优化以最小化两个判别器在目标样本上预测结果的差异，防止生成超出源域支持范围的特征。
• 通过熵最小化与虚拟对抗训练（VAT）应用半监督学习正则化，增强特征可分性与鲁棒性。
• 训练目标结合对抗损失、域-类分类损失与SSL正则化，超参数包括λ_dta1、λ_dsa2、λ_dta2与ε。
• 该方法在Office-31与ImageCLEF-DA上进行评估，采用A-距离与准确率作为关键指标，分别衡量分布差异与模型性能。

实验结果

研究问题

• RQ1 在单一2K维判别器中联合实现域级与类别级对齐，是否能相比独立或二元判别器提升域适应性能？
• RQ2 两个判别器之间的双重对抗训练机制，是否能增强特征多样性并提升对分布外目标样本的检测能力？
• RQ3 整合半监督学习正则化在多大程度上能提升伪标签质量与域适应中的特征表征？
• RQ4 在存在大域偏移与域规模不平衡（如D→A与W→A任务）的情况下，该方法表现如何？
• RQ5 所提出的双重对抗机制是否能比现有方法更有效地降低分布差异，如A-距离所衡量？

主要发现

• 在Office-31数据集上，DADA在所有对比方法中取得了最高平均准确率，优于DANN、ADDA、MADA与RCA。
• 当移除SSL正则化后，该方法仍比基线方法平均准确率提升1.0%，验证了熵最小化与VAT的有效性。
• 在ImageCLEF-DA上，DADA将准确率从源模型ResNet-50的80.7%提升至89.3%，表明其在平衡、多域数据上具有强大泛化能力。
• A-距离度量显示，DADA实现了最小的跨域差异（D→W为1.14，W→D为1.18），表明其学习到了更好的域不变表征。
• 在具有大域偏移的挑战性任务中（如D→A与W→A），DADA保持了强劲性能，表明其对分布偏移具有鲁棒性。
• 通过t-SNE进行的特征可视化证实，与仅使用源模型的基线相比，DADA生成的源域与目标域特征具有更好的对齐性与可分性。