[论文解读] Understanding Self-Training for Gradual Domain Adaptation

Ananya Kumar, Tengyu Ma+1 more|arXiv (Cornell University)|Feb 26, 2020

Domain Adaptation and Few-Shot Learning参考文献 43被引用 19

一句话总结

本文提出渐进式自训练方法以应对在分布缓慢、逐步变化的领域适应场景，理论上和实证上均证明利用中间无标签数据可提升性能，优于直接适应。该方法在小Wasserstein-infinity距离变化下证明了非平凡的误差界，并在Portraits数据集上实现了84%的准确率——比直接适应高10个百分点，凸显了正则化与标签锐化即使在无限数据下也至关重要。

ABSTRACT

Machine learning systems must adapt to data distributions that evolve over time, in applications ranging from sensor networks and self-driving car perception modules to brain-machine interfaces. We consider gradual domain adaptation, where the goal is to adapt an initial classifier trained on a source domain given only unlabeled data that shifts gradually in distribution towards a target domain. We prove the first non-vacuous upper bound on the error of self-training with gradual shifts, under settings where directly adapting to the target domain can result in unbounded error. The theoretical analysis leads to algorithmic insights, highlighting that regularization and label sharpening are essential even when we have infinite data, and suggesting that self-training works particularly well for shifts with small Wasserstein-infinity distance. Leveraging the gradual shift structure leads to higher accuracies on a rotating MNIST dataset and a realistic Portraits dataset.

研究动机与目标

• 为解决现实世界应用（如自动驾驶汽车和脑机接口）中因分布随时间缓慢演变导致机器学习模型性能退化的问题。
• 在逐步领域适应的背景下分析自训练方法，其中分布变化是分步进行而非一次性发生。
• 首次在渐进式分布偏移下为自训练提供非平凡的理论误差界，尤其在直接适应失败时。
• 实证表明，渐进式自训练在旋转MNIST和Portraits数据集上均优于直接适应和基线方法。

提出的方法

• 该方法使用一系列分类器，依次在逐步偏移的数据上进行训练，从源分类器开始，通过在中间领域无标签数据上进行自训练进行更新。
• 在每一步中，为当前领域中的无标签样本生成伪标签，并基于这些伪标签样本训练正则化的监督分类器。
• 该方法结合了标签锐化和L2正则化以提升鲁棒性，尤其在Wasserstein-infinity距离下偏移较小时表现更优。
• 采用大小为W的滑动窗口，以增量方式处理无标签数据，每隔若干步重新训练模型以适应分布的演化。
• 置信度阈值用于过滤低置信度预测，提升伪标签的可靠性。
• 理论分析考虑两种设定：基于边界距离的分布无关设定与高斯生成模型设定，两者均表明渐进式适应可提升泛化性能。

实验结果

研究问题

• RQ1 在支持重叠较小时，自训练在渐进式领域适应中是否能优于直接适应目标领域？
• RQ2 在渐进式分布偏移下，自训练可提供何种理论保证，尤其当直接适应导致误差无界时？
• RQ3 在无限数据条件下，正则化与标签锐化如何影响渐进式偏移下的自训练性能？
• RQ4 在高维设置下，小而渐进的偏移结构是否比大而单步的偏移更有利于泛化？
• RQ5 渐进式自训练的性能在多大程度上对超参数（如窗口大小和置信度阈值）具有鲁棒性？

主要发现

• 在Portraits数据集上，渐进式自训练达到84%准确率，显著优于直接目标适应（77%）和对所有无标签数据进行自训练（77%）。
• 在旋转MNIST上，渐进式自训练达到80.3%准确率，而直接目标自训练仅31.1%，对全部数据自训练为32.6%。
• 渐进式自训练的理论误差界在初始误差α₀较小时为非平凡，对时间步数T呈指数依赖，但保持紧致且具有信息量。
• 消融实验表明，渐进式自训练对超参数选择（包括窗口大小和置信度阈值）具有鲁棒性，性能优势在各种设置下持续存在。
• 即使有20,000个中间无标签样本，渐进式自训练在Portraits上仍达到60.6%准确率，优于直接适应（56.5%）和全量数据自训练（57.4%），尽管所有方法在极端偏移下仍表现不佳。
• 本研究揭示，即使在无限数据极限下，正则化与标签锐化对性能仍至关重要，凸显其在分布偏移下稳定自训练的关键作用。