[论文解读] Attending to Discriminative Certainty for Domain Adaptation

Vinod K Kurmi, Shanu Kumar+1 more|arXiv (Cornell University)|Jun 8, 2019

Domain Adaptation and Few-Shot Learning参考文献 52被引用 8

一句话总结

本文提出了一种新颖的域自适应方法，利用判别器的概率确定性来识别并聚焦于分类器训练过程中的可适应图像区域——尤其是前景物体。通过使用不确定性估计（偶然性和预测性）来加权注意力，该方法提升了在目标域上的泛化能力，在Office-Home数据集上相比先前方法实现了高达7.4%的准确率提升，达到当前最优性能。

ABSTRACT

In this paper, we aim to solve for unsupervised domain adaptation of classifiers where we have access to label information for the source domain while these are not available for a target domain. While various methods have been proposed for solving these including adversarial discriminator based methods, most approaches have focused on the entire image based domain adaptation. In an image, there would be regions that can be adapted better, for instance, the foreground object may be similar in nature. To obtain such regions, we propose methods that consider the probabilistic certainty estimate of various regions and specify focus on these during classification for adaptation. We observe that just by incorporating the probabilistic certainty of the discriminator while training the classifier, we are able to obtain state of the art results on various datasets as compared against all the recent methods. We provide a thorough empirical analysis of the method by providing ablation analysis, statistical significance test, and visualization of the attention maps and t-SNE embeddings. These evaluations convincingly demonstrate the effectiveness of the proposed approach.

研究动机与目标

• 解决无监督域自适应中的域偏移问题，其中源域标签可用但目标域标签不可用。
• 通过识别更易于适应的区域，克服整体图像域自适应的局限性。
• 通过聚焦于判别器最具信心的区域来提升分类器在目标域上的泛化能力。
• 提出一种基于概率不确定性的原则化方法，用于在训练期间引导注意力，且不修改推理过程。
• 通过全面的消融实验、统计检验和可视化，证明该方法的优越性能。

提出的方法

• 在训练期间使用概率判别器估计图像区域的偶然性和预测性不确定性。
• 从判别器的不确定性估计构建基于确定性的注意力权重，突出判别器最具信心的区域。
• 在分类器训练期间应用这些确定性权重，以增强对可适应区域（尤其是前景物体）的关注。
• 使用加权交叉熵损失训练分类器，重点强调判别器识别出的高确定性区域。
• 仅在训练过程中使用确定性图；推理时不使用任何注意力权重。
• 将该方法集成到标准对抗性域自适应框架中，使用梯度反转进行特征对齐。

实验结果

研究问题

• RQ1 判别器的概率不确定性估计是否有助于识别更适合域自适应的图像区域？
• RQ2 将分类器训练聚焦于高确定性区域是否能提升在未见目标域上的泛化能力？
• RQ3 与当前最先进域自适应方法相比，该方法在准确率和鲁棒性方面表现如何？
• RQ4 基于判别器确定性的注意力图在多大程度上与分类器的真实类别激活模式对齐？
• RQ5 该方法带来的性能提升在基准数据集上是否具有统计显著性？

主要发现

• 所提方法在Office-Home数据集上相比最先进方法最高实现7.4%的准确率提升。
• 判别器的确定性图在训练过程中动态演化，从背景区域逐渐转向前景区域，最终扩展至不可适应区域，表明其具备动态适应学习能力。
• t-SNE可视化显示，该方法生成的特征产生更清晰、更分明的类别簇（31个类别对应31个簇），优于基线方法。
• 使用该方法生成的特征，A-distance度量显著降低，表明其域差异小于ResNet和GRL基线方法。
• 统计显著性检验（Nemenyi检验）证实，该方法在95%置信水平下显著优于GRL基线。
• 推理时分类器的注意力图与训练期间使用的确定性图高度一致，验证了该方法的一致性与可解释性。