[论文解读] Domain Adaptation with Adversarial Training on Penultimate Activations

Tao Sun, Cheng Lu+1 more|arXiv (Cornell University)|Aug 26, 2022

Domain Adaptation and Few-Shot Learning被引用 4

一句话总结

本文提出在中间特征层（即输入最终分类层前的特征）上进行对抗训练，以实现无监督域自适应（UDA），并证明该方法在提升目标数据预测置信度方面，优于对输入图像或中间特征进行对抗训练。该方法在标准和无源数据UDA基准上均取得最先进性能，消融实验表明通过特征归一化和基于top-k标签的扰动近似可进一步提升模型的鲁棒性与效率。

ABSTRACT

Enhancing model prediction confidence on target data is an important objective in Unsupervised Domain Adaptation (UDA). In this paper, we explore adversarial training on penultimate activations, i.e., input features of the final linear classification layer. We show that this strategy is more efficient and better correlated with the objective of boosting prediction confidence than adversarial training on input images or intermediate features, as used in previous works. Furthermore, with activation normalization commonly used in domain adaptation to reduce domain gap, we derive two variants and systematically analyze the effects of normalization on our adversarial training. This is illustrated both in theory and through empirical analysis on real adaptation tasks. Extensive experiments are conducted on popular UDA benchmarks under both standard setting and source-data free setting. The results validate that our method achieves the best scores against previous arts. Code is available at https://github.com/tsun/APA.

研究动机与目标

• 提升无监督域自适应（UDA）中未标注目标域数据的模型预测置信度。
• 解决先前对输入图像或中间特征进行对抗训练的方法在提升置信度方面效率低下且相关性有限的问题。
• 探索在中间特征层上进行对抗训练，作为提升UDA中置信度的更直接、更有效策略。
• 分析特征归一化对中间特征对抗训练性能的影响，并推导出该方法的两种归一化变体。
• 通过大量实验验证该方法在标准和无源数据UDA设置下的优越性。

提出的方法

• 直接在中间特征（即最终线性分类器之前的特征）上应用对抗训练，而非在输入图像或中间特征上。
• 该方法通过基于交叉熵的差异度量，构建对抗损失，以最大化原始与扰动后中间特征上模型预测结果之间的差异。
• 推导出两种变体：APA（在未归一化特征上进行对抗扰动）和APA^n（在归一化特征上进行对抗扰动），其中归一化通过ℓ₂范数实现。
• 通过在中间特征上进行投影梯度上升优化扰动，且仅通过线性分类器反传梯度，从而降低计算成本。
• 该方法引入基于top-k伪标签的扰动近似，仅使用最自信的k个类别来计算扰动，提升效率并增强与模型置信度的一致性。
• 理论与实证分析表明，中间特征上的扰动在保持对抗损失的同时，能获得更高准确率，原因在于优化更简单且与置信度目标更契合。

实验结果

研究问题

• RQ1 在中间特征上进行对抗训练是否比在输入图像或中间特征上更有效提升UDA中的预测置信度？
• RQ2 特征归一化如何影响中间特征对抗训练的性能与梯度动态？
• RQ3 基于top-k伪标签的扰动近似能否在降低计算成本的同时实现与完整对抗训练相当的性能？
• RQ4 在真实UDA任务中，对抗扰动、激活梯度与模型更新后实际激活变化之间的关系是什么？
• RQ5 所提方法是否在标准和无源数据UDA设置下均优于现有SOTA方法？

主要发现

• 所提APA方法在标准UDA基准上达到最先进准确率，优于FixMatch和SENTRY等先前方法。
• 在Office-Home数据集上，APA在无源数据设置下达到83.88%的top-1准确率，领先次优方法0.34个百分点。
• 归一化变体APA^n在Office-Home上也达到83.88%准确率，表明归一化能提升性能与稳定性。
• 基于top-k标签的扰动近似在k=5时达到83.54%准确率，与完整APA性能相当，表明聚焦于高置信类别已足够。
• 消融实验确认，与输入或特征层级的对抗训练相比，在中间特征上进行对抗训练能带来更高准确率，并与置信度目标有更强相关性。
• 全量与top-k近似扰动之间的余弦相似度始终较高（当k≥3时超过0.8），验证了近似方法的有效性。