[论文解读] Unknown-Aware Domain Adversarial Learning for Open-Set Domain Adaptation

JoonHo Jang, Byeonghu Na+4 more|arXiv (Cornell University)|Jun 15, 2022

Domain Adaptation and Few-Shot Learning被引用 16

一句话总结

该论文提出了一种新颖的域对抗学习框架——未知感知域对抗学习（UADAL），用于开放集域自适应（OSDA）。该方法在共享特征空间中显式对齐源域与目标域已知特征，同时将目标域未知特征进行分离。UADAL通过引入域判别损失、未知感知对齐的顺序优化策略以及后验推理机制，在Office-Home和VisDA基准上实现了最先进性能，显著提升了准确率。

ABSTRACT

Open-Set Domain Adaptation (OSDA) assumes that a target domain contains unknown classes, which are not discovered in a source domain. Existing domain adversarial learning methods are not suitable for OSDA because distribution matching with $ extit{unknown}$ classes leads to negative transfer. Previous OSDA methods have focused on matching the source and the target distribution by only utilizing $ extit{known}$ classes. However, this $ extit{known}$-only matching may fail to learn the target-$ extit{unknown}$ feature space. Therefore, we propose Unknown-Aware Domain Adversarial Learning (UADAL), which $ extit{aligns}$ the source and the target-$ extit{known}$ distribution while simultaneously $ extit{segregating}$ the target-$ extit{unknown}$ distribution in the feature alignment procedure. We provide theoretical analyses on the optimized state of the proposed $ extit{unknown-aware}$ feature alignment, so we can guarantee both $ extit{alignment}$ and $ extit{segregation}$ theoretically. Empirically, we evaluate UADAL on the benchmark datasets, which shows that UADAL outperforms other methods with better feature alignments by reporting state-of-the-art performances.

研究动机与目标

• 为解决现有域对抗学习方法在开放集域自适应（OSDA）中的局限性，即目标域中的未知类别因分布不匹配导致负迁移问题。
• 克服仅对齐已知特征的失败，该方法无法为目标域未知实例学习有意义的表征。
• 在域对齐过程中显式建模目标域未知特征与源域及目标域已知特征的分离，从而实现更清晰的决策边界。
• 为未知感知特征对齐的优化状态提供理论保证，确保模型的鲁棒性与泛化能力。
• 设计一种后验推理机制，无需阈值化即可区分目标样本是否属于已知类别，从而提升检测可靠性。

提出的方法

• 提出一种新的域判别损失，主动利用目标域未知特征的信息，以指导特征空间的分离。
• 引入一种顺序优化策略，在对抗训练过程中平衡源域与目标域已知特征的对齐，以及目标域未知特征的分离。
• 理论分析证明，未知感知对齐的优化状态可同时保证分布对齐与有效分离。
• 采用后验推理模块，无需依赖任意阈值，即可估计目标样本属于已知或未知类别的概率。
• 使用混合模型表示已知与未知特征模式，从而在潜在空间中实现更优的分离。
• 通过修改判别器，使其能够区分源域、目标域已知特征与目标域未知特征，从而适配域对抗训练。

实验结果

研究问题

• RQ1 与仅对齐已知特征的方法相比，显式分离目标域未知实例的特征是否能提升开放集域自适应的性能？
• RQ2 如何对域对抗学习进行理论优化，以实现已知分布的对齐与未知特征的分离？
• RQ3 引入未知感知判别损失对模型泛化能力与决策边界清晰度有何影响？
• RQ4 无需阈值化的后验推理能否提升开放集检测中未知类别识别的可靠性？
• RQ5 在Office-Home与VisDA等标准OSDA基准上，UADAL相较于最先进方法表现如何？

主要发现

• 在Office-Home数据集上，UADAL在R→C设置下达到77.3%的平均准确率，在C→R设置下达到77.4%，优于先前的SOTA方法。
• 在VisDA-2017基准上，UADAL实现84.8%的平均准确率，较之前最佳方法（DANCE）高出1.0个百分点。
• 在Office-Home的C→A与C→P设置中，UADAL分别取得76.8%与76.7%的平均准确率，展现出在多样化域偏移下的强大泛化能力。
• 消融实验表明，所提出的未知感知对齐机制显著提升了已知与未知类别识别性能，未知准确率较基线DANN提升5.2%。
• 后验推理模块无需阈值化即可有效识别未知样本，提升了开放集检测的鲁棒性与一致性。
• 理论分析证实，未知感知对齐的优化状态可同时确保对齐与分离，为方法的成功提供了坚实理论基础。