[论文解读] Unsupervised Domain Adaptation in the Absence of Source Data

Roshni Sahoo, Divya Shanmugam+1 more|arXiv (Cornell University)|Jul 20, 2020

Domain Adaptation and Few-Shot Learning参考文献 14被引用 9

一句话总结

本文提出了一种无监督域自适应方法，可在无法访问源数据的情况下，仅使用未标注的目标图像和源分类器的Softmax输出，将预训练的源分类器适应到目标域。通过学习可逆变换（例如亮度/对比度调整）将目标图像映射至源分布，该方法在有限标注目标数据下相比微调方法实现了更高的准确率。

ABSTRACT

Current unsupervised domain adaptation methods can address many types of distribution shift, but they assume data from the source domain is freely available. As the use of pre-trained models becomes more prevalent, it is reasonable to assume that source data is unavailable. We propose an unsupervised method for adapting a source classifier to a target domain that varies from the source domain along natural axes, such as brightness and contrast. Our method only requires access to unlabeled target instances and the source classifier. We validate our method in scenarios where the distribution shift involves brightness, contrast, and rotation and show that it outperforms fine-tuning baselines in scenarios with limited labeled data.

研究动机与目标

• 解决在无法访问源数据时机器学习中的域偏移问题，这在预训练模型中是常见场景。
• 开发一种方法，仅使用未标注的目标数据和分类器的预测结果，将源分类器适应到目标域。
• 提升模型对自然分布偏移（如亮度、对比度和旋转变化）的鲁棒性。
• 在标注目标样本稀缺的低数据场景下，超越微调基线方法的性能。

提出的方法

• 该方法训练一个变换网络，以预测可微分前向变换（如亮度、对比度）的参数，将目标图像映射至源域。
• 它使用源分类器的Softmax概率作为监督信号，优化目标为变换后图像的最高类别概率尽可能高。
• 变换网络在未标注的目标图像上端到端进行训练，损失函数旨在促使变换后的图像被源模型自信分类。
• 该方法假设前向变换（如亮度偏移）是可逆的，且在推理时可应用其逆变换。
• 它利用了分布内样本（更接近源分布）的最高Softmax概率通常高于分布外样本的事实。
• 最终推理阶段对每个目标图像应用学习到的变换，并使用原始源分类器进行分类。

实验结果

研究问题

• RQ1 模型能否在不访问源数据的情况下，仅依赖预训练分类器和未标注的目标数据来适应域偏移？
• RQ2 通过Softmax置信度进行变换学习，在恢复偏移目标域的性能方面有多有效？
• RQ3 当标注目标数据有限时，所提方法是否优于微调方法？
• RQ4 在亮度和对比度等自然轴上的偏移严重程度和范围变化时，性能如何变化？

主要发现

• 当标注目标样本少于4,000个时，所提方法优于微调源分类器最后几层的性能。
• 当标注目标样本少于1,000个时，所提方法优于全网络微调。
• 对于亮度偏移且μ ≤ 1.0的情况，方法恢复的准确率接近理想模型；当μ > 1.0（过曝）时，性能下降，原因在于偏移不可逆。
• 随着偏移范围增加（σ更高），该方法的准确率下降速度比源分类器更缓慢，尤其在亮度偏移下表现更优。
• 对于对比度偏移，该方法与源分类器的性能下降速率相似，随偏移范围增加而同步退化。
• 该方法在轻度至严重偏移下均保持强性能，展示了对自然域偏移的鲁棒性，且无需源数据或目标标签。