[论文解读] Active Learning for Domain Adaptation: An Energy-Based Approach

Binhui Xie, Longhui Yuan+4 more|arXiv (Cornell University)|Dec 2, 2021

Domain Adaptation and Few-Shot Learning被引用 10

一句话总结

本文提出能量基础主动域自适应（EADA），一种新颖的无监督域自适应主动学习方法，通过利用源域与目标域之间的自由能差异来选择最具信息量的目标样本。通过结合自由能表示的域差异（即自由能）与基于MvSM得分的实例不确定性，EADA在VisDA-2017和Office-Home基准上实现了最先进性能，相较于先前方法显著提升了准确率，且无需专用网络架构或距离计算。

ABSTRACT

Unsupervised domain adaptation has recently emerged as an effective paradigm for generalizing deep neural networks to new target domains. However, there is still enormous potential to be tapped to reach the fully supervised performance. In this paper, we present a novel active learning strategy to assist knowledge transfer in the target domain, dubbed active domain adaptation. We start from an observation that energy-based models exhibit extit{free energy biases} when training (source) and test (target) data come from different distributions. Inspired by this inherent mechanism, we empirically reveal that a simple yet efficient energy-based sampling strategy sheds light on selecting the most valuable target samples than existing approaches requiring particular architectures or computation of the distances. Our algorithm, Energy-based Active Domain Adaptation (EADA), queries groups of target data that incorporate both domain characteristic and instance uncertainty into every selection round. Meanwhile, by aligning the free energy of target data compact around the source domain via a regularization term, domain gap can be implicitly diminished. Through extensive experiments, we show that EADA surpasses state-of-the-art methods on well-known challenging benchmarks with substantial improvements, making it a useful option in the open world. Code is available at https://github.com/BIT-DA/EADA.

研究动机与目标

• 为弥合无监督域自适应与完全监督性能之间的差距，减少对大规模标注目标数据的依赖。
• 开发一种高效的主动学习策略，无需复杂架构或距离计算，即可选择最具信息量的目标样本。
• 利用源域与目标域之间固有的自由能偏差作为域差异与主动采样中不确定性的代理信号。
• 通过正则化目标自由能分布以对齐源域分布，隐式减小域偏移。

提出的方法

• EADA使用未标注目标样本的自由能作为域特性的代理，选择自由能更高的样本作为目标分布更具代表性的样本。
• 对每个目标样本计算最小能与次小能之差（MvSM）得分，以量化模型不确定性并优先选择模糊实例。
• 通过正则化项最小化源域与目标域之间自由能差距，联合优化域对齐与不确定性降低。
• 选择过程迭代查询一批在域代表性与预测不确定性之间取得平衡的目标数据。
• 该方法兼容标准深度神经网络，无需额外组件（如域判别器或聚类头）。

实验结果

研究问题

• RQ1 源域与目标域之间的自由能差异能否作为有效且架构无关的主动采样信号，用于域自适应？
• RQ2 如何联合建模域差异与实例不确定性，以提升域偏移场景下主动学习的效率？
• RQ3 简单的能量基础采样策略能否超越依赖复杂架构或距离度量的现有方法？
• RQ4 自由能正则化在多大程度上可减小域偏移并提升主动域自适应中的模型泛化能力？

主要发现

• EADA在VisDA-2017基准上实现了最先进性能，显著优于现有主动域自适应方法。
• 在Office-Home数据集上，EADA大幅超越'仅使用源域'基线，并接近完全监督学习的性能。
• 通过将源域与目标域的自由能分布对齐，EADA有效减小了域差距，分布图显示其与完全监督情况高度相似。
• EADA在随机采样及其他主动学习基线上均取得显著提升，证明了其能量基础选择策略的有效性。
• 消融实验确认，自由能与MvSM两个组件均对性能有显著贡献，验证了双目标设计的合理性。