[论文解读] Open Set Domain Adaptation by Backpropagation

Kuniaki Saito, Shohei Yamamoto+2 more|arXiv (Cornell University)|Apr 27, 2018

Domain Adaptation and Few-Shot Learning参考文献 32被引用 22

一句话总结

该论文提出了一种新颖的对抗性学习方法，用于开放集域自适应（OSDA），且无需使用未知源样本。通过训练一个特征生成器，使其要么将已知目标样本与源特征对齐，要么通过分类器边界拒绝未知样本，该方法在分离已知类与未知类方面表现出色，在域自适应和开放集识别任务中均显著优于现有方法。

ABSTRACT

Numerous algorithms have been proposed for transferring knowledge from a label-rich domain (source) to a label-scarce domain (target). Almost all of them are proposed for a closed-set scenario, where the source and the target domain completely share the class of their samples. We call the shared class the \doublequote{known class.} However, in practice, when samples in target domain are not labeled, we cannot know whether the domains share the class. A target domain can contain samples of classes that are not shared by the source domain. We call such classes the \doublequote{unknown class} and algorithms that work well in the open set situation are very practical. However, most existing distribution matching methods for domain adaptation do not work well in this setting because unknown target samples should not be aligned with the source. In this paper, we propose a method for an open set domain adaptation scenario which utilizes adversarial training. A classifier is trained to make a boundary between the source and the target samples whereas a generator is trained to make target samples far from the boundary. Thus, we assign two options to the feature generator: aligning them with source known samples or rejecting them as unknown target samples. This approach allows extracting features that separate unknown target samples from known target samples. Our method was extensively evaluated in domain adaptation setting and outperformed other methods with a large margin in most settings.

研究动机与目标

• 为解决在缺乏未知源样本的情况下开放集域自适应的挑战，使该设定更具现实性和实用性。
• 开发一种方法，可在不依赖源域中已知未知样本的前提下检测未知目标样本。
• 通过同时对齐已知目标样本与源样本并拒绝未知目标样本，提升域自适应性能。
• 在存在域偏移和标注数据有限的场景下，实现有效的开放集识别。
• 在无监督域自适应和半监督开放集识别设置中，验证该方法的有效性。

提出的方法

• 该方法采用两玩家对抗框架：一个特征生成器和一个分类器，其中分类器输出为K+1维，第(K+1)类表示'未知'。
• 分类器被训练以对目标样本分配较高的'未知'类概率，从而在已知与未知特征之间形成决策边界。
• 特征生成器被训练以最大化未知目标样本的'未知'类概率，从而有效将其从已知类别边界推开。
• 生成器具有两种策略选择：将已知目标样本与源特征对齐，或通过提高其'未知'概率来拒绝未知样本。
• 该方法利用对抗训练，隐式学习一个分离已知与未知样本的边界，而无需显式使用未知源数据。
• 该方法结合特征生成与弱监督分类器，实现开放集泛化的端到端训练。

实验结果

研究问题

• RQ1 在无法访问任何未知源样本的情况下，域自适应方法能否有效检测未知目标样本？
• RQ2 如何利用对抗训练在开放集域自适应中同时对齐已知样本并拒绝未知样本？
• RQ3 在存在域偏移和未知类的场景下，所提方法是否优于现有的分布匹配与开放集识别技术？
• RQ4 从生成器学习到的特征是否能在视觉域自适应任务中有效分离未知目标样本与已知样本？
• RQ5 当仅提供已知样本和未标注样本时，该方法在半监督开放集识别中的表现如何？

主要发现

• 在USPS到MNIST的域自适应任务中，所提方法在已知类别上达到92.3%的准确率，在未知类别检测上达到97.6%，显著优于BP+OSVM（未知准确率仅0.9%）。
• 在SVHN到MNIST的域自适应任务中，该方法平均准确率达到82.4%，未知类别检测准确率达85.9%，在多数指标上优于OSVM和MMD+OSVM。
• 该方法在半监督开放集识别中表现出强大的泛化能力，在MNIST和SVHN上分别达到84.5%的平均准确率和81.7%的未知检测准确率。
• 当与OSVM结合使用时（Ours + OSVM），该方法在半监督任务中实现了96.3%的未知准确率，表明其学习到的特征表示在未知样本拒绝方面非常有效。
• 特征可视化结果表明，该方法成功将未知目标样本（绿色点）与已知样本（蓝色和红色点）分离，而BP方法则未能有效区分未知样本。
• 在开放集域自适应任务中，该方法全面优于所有基线方法，尤其在未知样本拒绝方面表现突出，BP+OSVM在USPS-MNIST数据集上的未知准确率仅为0.7%。