[论文解读] Learning Factorized Representations for Open-set Domain Adaptation

Mahsa Baktashmotlagh, Masoud Faraki+2 more|arXiv (Cornell University)|May 31, 2018

Domain Adaptation and Few-Shot Learning参考文献 26被引用 12

一句话总结

该论文提出FRODA，一种新颖的开放集域适应框架，通过组稀疏性将特征分解为共享（已知类别）和私有（未知类别）子空间，实现未知样本的同步检测与已知类别的判别性表征学习。在标准基准测试中，其性能优于先前的最先进方法，且速度提升一个数量级。

ABSTRACT

Domain adaptation for visual recognition has undergone great progress in the past few years. Nevertheless, most existing methods work in the so-called closed-set scenario, assuming that the classes depicted by the target images are exactly the same as those of the source domain. In this paper, we tackle the more challenging, yet more realistic case of open-set domain adaptation, where new, unknown classes can be present in the target data. While, in the unsupervised scenario, one cannot expect to be able to identify each specific new class, we aim to automatically detect which samples belong to these new classes and discard them from the recognition process. To this end, we rely on the intuition that the source and target samples depicting the known classes can be generated by a shared subspace, whereas the target samples from unknown classes come from a different, private subspace. We therefore introduce a framework that factorizes the data into shared and private parts, while encouraging the shared representation to be discriminative. Our experiments on standard benchmarks evidence that our approach significantly outperforms the state-of-the-art in open-set domain adaptation.

研究动机与目标

• 为解决闭集域适应的局限性，即假设源域与目标域类别集合完全相同，提出在更贴近现实的开放集场景中实现识别，即目标域可能出现未知类别。
• 开发一种方法，可自动检测并丢弃未知目标样本，而无需标签，从而提升在真实部署中的鲁棒性。
• 联合学习已知类别的判别性共享表征与未知目标样本的私有子空间，以增强特征对齐与分类性能。
• 通过设计高效的优化框架，实现比现有开放集域适应方法（特别是[5]的迭代方法）更快的推理与训练速度。

提出的方法

• 该方法将源域与目标域特征分解为已知类别的共享子空间，以及针对目标域的未知类别特异的私有子空间。
• 通过在重构系数上施加L1正则化实现组稀疏性，确保每个目标样本仅由一个子空间（共享或私有）表示，从而实现未知样本的检测。
• 在框架内联合优化线性分类器，以增强共享表征的判别性，提升下游识别准确率。
• 通过交替更新共享子空间、私有子空间、重构系数与分类器，采用高效的交替方向乘子法（ADMM）进行优化。
• 将框架扩展为D-FRODA，引入更灵活的分类器及额外变体（如最近邻或加权分类器），以评估鲁棒性。

实验结果

研究问题

• RQ1 能否设计一个统一框架，同时在开放集域适应中检测未知目标样本并学习已知类别的判别性共享表征？
• RQ2 将特征分解为共享与私有子空间是否能优于现有迭代方法，在开放集域适应中取得更优性能？
• RQ3 所提方法是否能在准确率与收敛速度上超越[5]的最先进方法？
• RQ4 该方法对正则化阈值ε等超参数的选择是否具有鲁棒性？

主要发现

• 在BCIS数据集上，FRODA在A→D配对中达到88.0%的平均准确率，显著优于先前SOTA方法ATI的79.8%。
• 在Office数据集上，FRODA-SVM在A→D上达到88.0%准确率，A→W为78.7%，D→W为94.6%，在全部6对域迁移中均超越先前SOTA方法ATI。
• 采用学习分类器的D-FRODA变体（D-FRODA-SVM）在A→D上达到87.4%，D→W为94.4%，在D→W上表现稳定，优于ATI的94.4%。
• 该方法对超参数ε具有鲁棒性，一旦达到足够阈值，性能即趋于稳定，表明在不同设置下均具可靠表现。
• FRODA每轮运行耗时约2.5秒，远快于[5]方法的32秒，尽管准确率更高，速度提升超过10倍。
• 消融实验表明，D-FRODA中使用学习分类器（W）的性能优于最近邻与基线变体，证实了联合优化的优势。