[论文解读] Opposite Structure Learning for Semi-supervised Domain Adaptation

Can Qin, Lichen Wang+4 more|arXiv (Cornell University)|Feb 6, 2020

Domain Adaptation and Few-Shot Learning参考文献 32被引用 20

一句话总结

本文提出统一对立结构的域自适应方法（UODA），一种半监督方法，通过交替扩展源域特征与聚类目标域特征来对齐跨域分布。通过使用形式相反的损失函数分别训练基于源域和基于目标域的分类器，UODA提升了决策边界的平滑性与类间分离度，在DomainNet和Office-Home数据集上实现了最先进性能。

ABSTRACT

Current adversarial adaptation methods attempt to align the cross-domain features whereas two challenges remain unsolved: 1) conditional distribution mismatch between different domains and 2) the bias of decision boundary towards the source domain. To solve these challenges, we propose a novel framework for semi-supervised domain adaptation by unifying the learning of opposite structures (UODA). UODA consists of a generator and two classifiers (i.e., the source-based and the target-based classifiers respectively) which are trained with opposite forms of losses for a unified object. The target-based classifier attempts to cluster the target features to improve intra-class density and enlarge inter-class divergence. Meanwhile, the source-based classifier is designed to scatter the source features to enhance the smoothness of decision boundary. Through the alternation of source-feature expansion and target-feature clustering procedures, the target features are well-enclosed within the dilated boundary of the corresponding source features. This strategy effectively makes the cross-domain features precisely aligned. To overcome the model collapse through training, we progressively update the measurement of distance and the feature representation on both domains via an adversarial training paradigm. Extensive experiments on the benchmarks of DomainNet and Office-home datasets demonstrate the effectiveness of our approach over the state-of-the-art method.

研究动机与目标

• 解决半监督域自适应中源域与目标域之间的条件分布不匹配问题。
• 通过改善目标特征聚类，减少决策边界对源域的偏差。
• 通过交替扩展源特征与聚类目标特征，增强特征对齐。
• 通过逐步更新距离度量与特征表示，防止对抗训练过程中的模型坍塌。
• 在不依赖对抗域对齐的单一方法下，实现精确的跨域特征对齐。

提出的方法

• 引入一个生成器和两个分类器：基于源域的分类器通过散射源特征以提升决策边界的平滑性。
• 设计基于目标域的分类器，通过聚类目标特征以增强类内密度与类间差异。
• 通过使用相反形式的损失函数联合训练两个分类器，统一在单一优化目标下学习对立结构。
• 通过交替执行源特征扩展与目标特征聚类，扩大源域边界并将其包围目标特征。
• 应用对抗训练，逐步更新特征表示与距离度量，缓解模型坍塌问题。
• 采用统一目标函数，联合优化跨域的特征对齐与决策边界鲁棒性。

实验结果

研究问题

• RQ1 在半监督域自适应中，如何有效减少源域与目标域之间的条件分布不匹配？
• RQ2 对源域与目标域分类器采用相反损失形式，能在多大程度上提升决策边界的泛化能力？
• RQ3 交替执行源特征扩展与目标特征聚类，是否能实现优于标准对抗对齐的跨域特征对齐？
• RQ4 对特征表示与距离度量的渐进式优化，如何在训练过程中防止模型坍塌？
• RQ5 所提出的UODA框架是否在标准域自适应基准上超越现有最先进方法？

主要发现

• UODA在DomainNet基准上实现了最先进性能，显著优于现有方法的跨域泛化能力。
• 该方法显著提升了目标特征聚类效果，实现更高的类内紧凑性与类间可分性。
• 通过在源域与目标域分类器上采用相反损失形式，UODA有效降低了决策边界对源域的偏差。
• 源特征扩展与目标特征聚类的交替机制，实现了跨域特征的精确对齐。
• 对距离度量与特征表示的渐进式更新，有效防止了对抗训练过程中的模型坍塌。
• 在Office-Home上的大量实验表明，UODA在极少监督条件下仍能实现良好的跨域泛化性能。