[论文解读] Gradual Domain Adaptation in the Wild:When Intermediate Distributions are Absent

Samira Abnar, Rianne van den Berg+4 more|arXiv (Cornell University)|Jun 10, 2021

Domain Adaptation and Few-Shot Learning参考文献 50被引用 4

一句话总结

本文提出GIFT方法，通过在特征空间中对源域和目标域表示进行线性插值，生成虚拟样本，实现在缺乏中间分布情况下的渐进式领域自适应。实验表明，当缺少中间分布时，GIFT在合成数据集和真实世界基准上均显著优于迭代自训练方法，实现了显著的准确率提升。

ABSTRACT

We focus on the problem of domain adaptation when the goal is shifting the model towards the target distribution, rather than learning domain invariant representations. It has been shown that under the following two assumptions: (a) access to samples from intermediate distributions, and (b) samples being annotated with the amount of change from the source distribution, self-training can be successfully applied on gradually shifted samples to adapt the model toward the target distribution. We hypothesize having (a) is enough to enable iterative self-training to slowly adapt the model to the target distribution, by making use of an implicit curriculum. In the case where (a) does not hold, we observe that iterative self-training falls short. We propose GIFT, a method that creates virtual samples from intermediate distributions by interpolating representations of examples from source and target domains. We evaluate an iterative-self-training method on datasets with natural distribution shifts, and show that when applied on top of other domain adaptation methods, it improves the performance of the model on the target dataset. We run an analysis on a synthetic dataset to show that in the presence of (a) iterative-self-training naturally forms a curriculum of samples. Furthermore, we show that when (a) does not hold, GIFT performs better than iterative self-training.

研究动机与目标

• 解决在源域与目标域之间缺乏中间分布时的领域自适应挑战。
• 探究当存在中间分布时，迭代自训练是否能隐式形成课程学习机制。
• 提出一种即使在缺乏中间数据的情况下也能实现有效渐进自适应的方法。
• 在不同分布偏移条件下，评估课程学习在无监督领域自适应中的有效性。

提出的方法

• GIFT通过在神经网络的特征空间中对源域和目标域数据的表示进行线性插值，生成虚拟中间样本。
• 在训练过程中逐步增加插值系数，模拟从源域开始、逐步向目标域过渡的课程学习过程。
• 采用固定的插值调度策略控制虚拟样本的难度，确保从源域到目标域的平滑过渡。
• 将虚拟样本与自训练相结合，通过生成伪标签并迭代微调模型来优化性能。
• 该方法在合成基准和具有自然分布偏移的真实世界数据集上进行了评估。
• 在迭代训练过程中应用基于置信度的过滤策略，筛选高质量的伪标签样本。

实验结果

研究问题

• RQ1 当存在中间分布时，迭代自训练是否能隐式形成课程？
• RQ2 当缺乏中间分布时，迭代自训练在领域自适应中的性能受到何种影响？
• RQ3 当真实中间数据缺失时，通过特征空间插值生成的虚拟中间样本能否有效模拟课程学习？
• RQ4 在训练迭代次数有限或目标域多样性较低的情况下，GIFT与迭代自训练在性能和鲁棒性方面有何差异？

主要发现

• 当存在中间分布时，迭代自训练能隐式形成课程，相较于仅在源域上训练，在两月牙数据集上性能提升约40%。
• 当缺乏中间分布时，迭代自训练无法有效适应，导致在相同两月牙任务上的性能提升微乎其微。
• 在无中间数据的两月牙数据集上，GIFT将性能提升了约20%，证明其在弥合分布差距方面的有效性。
• 在具有可控偏移的合成CIFAR-10基准上，GIFT始终优于迭代自训练，尤其在训练迭代次数有限时表现更优。
• 当目标分布缺乏多样性时，GIFT比迭代自训练更具优势，因其通过虚拟样本确保了难度的均衡推进。
• 无论是GIFT还是迭代自训练，均表现出类似课程学习的行为，表现为模型在目标分布中逐步更难的子集上的置信度和准确率持续提升。