[论文解读] Weakly Supervised Open-set Domain Adaptation by Dual-domain Collaboration

Shuhan Tan, Jiening Jiao+1 more|arXiv (Cornell University)|Apr 30, 2019

Domain Adaptation and Few-Shot Learning参考文献 50被引用 5

一句话总结

本文提出协同分布对齐（CDA），一种新型弱监督开放集域自适应方法，可使两个部分标注的域协同对齐特征分布、分类已知类样本并检测未知类异常值。通过联合优化域特定特征变换、边缘最大化和分布对齐，CDA 在 Office 和行人重识别基准上实现了最先进性能，准确率显著提升且对未知样本更具鲁棒性。

ABSTRACT

In conventional domain adaptation, a critical assumption is that there exists a fully labeled domain (source) that contains the same label space as another unlabeled or scarcely labeled domain (target). However, in the real world, there often exist application scenarios in which both domains are partially labeled and not all classes are shared between these two domains. Thus, it is meaningful to let partially labeled domains learn from each other to classify all the unlabeled samples in each domain under an open-set setting. We consider this problem as weakly supervised open-set domain adaptation. To address this practical setting, we propose the Collaborative Distribution Alignment (CDA) method, which performs knowledge transfer bilaterally and works collaboratively to classify unlabeled data and identify outlier samples. Extensive experiments on the Office benchmark and an application on person reidentification show that our method achieves state-of-the-art performance.

研究动机与目标

• 为解决传统域自适应方法在假设源域完全标注这一实际限制，通过在两个部分标注的域之间实现知识迁移。
• 将域自适应扩展至开放集场景，即两个域中均存在未知类样本，需同时检测并分类已知类。
• 开发一种协作框架，联合对齐特征分布、减少类内差异，并在无需完全标注源域的前提下分离已知类与未知类。
• 在大规模标注数据不可用的真实场景中（如标注有限的行人重识别），提升泛化能力与鲁棒性。

提出的方法

• 提出一种双域协作框架，利用域特定特征变换将每个域的特征映射到共享潜在空间。
• 引入联合优化目标，整合边缘分布与条件分布对齐、类内紧凑性以及未知类分离。
• 采用基于熵的异常值检测伪标签策略，在迭代训练中过滤低置信度预测。
• 使用含可学习超参数的多组件损失函数，平衡分布对齐、类紧凑性与未知类边缘最大化。
• 通过双映射迭代优化提升特征可分性与开放集条件下的鲁棒性。
• 支持端到端训练，采用自适应优化策略，动态平衡已知类分类与未知类检测。

实验结果

研究问题

• RQ1 在无完全标注源域的前提下，两个部分标注的域能否协同提升分类性能与未知类检测能力？
• RQ2 当两个域均包含未知类样本且标注数据有限时，如何增强特征分布对齐？
• RQ3 在协作设置下，联合优化已知类分类、域对齐与未知类分离会产生何种影响？
• RQ4 双域映射相较于共享变换，在提升适应性能与鲁棒性方面表现如何？
• RQ5 基于熵阈值的异常值检测在开放集域自适应中能在多大程度上提升模型泛化能力？

主要发现

• 在 Office 基准上，CDA 在全部五个域迁移任务中均达到最先进准确率，5↔6 任务中最高准确率达 61.5%。
• 当移除类内聚合组件后，性能下降减少 38.4%，证明其在模型鲁棒性中的关键作用。
• 移除未知类分离组件后，5↔6 任务准确率下降 11.7%，证实其在开放集检测中的重要性。
• CDA 在 λM ∈ [0.001,10]、λU ∈ [0.01,1] 和 λG ∈ [0.5,10] 的多种参数设置下均保持强性能，表明对超参数选择具有鲁棒性。
• 基于熵阈值的异常值检测使 5↔6 任务准确率最高提升 8.8%，证明其在过滤噪声伪标签方面的有效性。
• 双映射在所有任务中均优于共享变换 4.1–7.2%，表明域特定适应可显著增强特征学习。