[论文解读] Combating Domain Shift with Self-Taught Labeling.

Jian Liang, Dapeng Hu+1 more|arXiv (Cornell University)|Jul 8, 2020

Domain Adaptation and Few-Shot Learning参考文献 39被引用 1

一句话总结

本文提出了一种名为自教标签（Self-Taught Labeling, SeTL）的新颖领域自适应方法，通过非参数化的邻域聚合策略生成无偏见、准确的伪标签，从而提升模型在目标领域的泛化能力。SeTL 利用特征和软标签的记忆库，在不依赖目标领域标签的情况下增强模型性能，在多个基准测试中优于现有的领域对齐技术。

ABSTRACT

We present a novel method to combat domain shift when adapting classification models trained on one domain to other new domains with few or no target labels. In the existing literature, a prevailing solution paradigm is to learn domain-invariant feature representations so that a classifier learned on the source features generalizes well to the target features. However, such a classifier is inevitably biased to the source domain by overlooking the structure of the target data. Instead, we propose Self-Taught Labeling (SeTL), a new regularization approach that finds an auxiliary target-specific classifier for unlabeled data. During adaptation, this classifier is able to teach the target domain itself by providing \emph{unbiased accurate} pseudo labels. In particular, for each target data, we employ the memory bank to store the feature along with its soft label from the domain-shared classifier. Then we develop a non-parametric neighborhood aggregation strategy to generate new pseudo labels as well as confidence weights for unlabeled data. Though simply using the standard classification objective, SeTL significantly outperforms existing domain alignment techniques on a large variety of domain adaptation benchmarks. We expect that SeTL can provide a new perspective of addressing domain shift and inspire future research of domain adaptation and transfer learning.

研究动机与目标

• 解决领域不变特征学习的局限性，该方法常因忽略目标数据结构而对源领域产生偏差。
• 在标注样本极少或完全不可用的低资源目标领域中提升模型泛化能力。
• 开发一种自监督标签机制，使目标领域能够通过准确的伪标签实现自我学习。
• 为领域自适应提供新视角，超越特征对齐，引入针对目标领域的分类器学习。

提出的方法

• 在自适应过程中，将来自领域共享分类器的特征和软标签存储在每个目标样本的记忆库中。
• 应用非参数化的邻域聚合策略，通过在特征空间中聚合相似样本生成新的伪标签。
• 根据邻近特征的接近度和一致性，为伪标签分配置信度权重。
• 使用标准交叉熵分类损失与生成的伪标签联合训练目标特定分类器。
• 通过记忆库和邻域聚合迭代优化伪标签与分类器预测。
• 通过结合共享学习与目标特定学习，平衡源领域知识与目标领域结构。

实验结果

研究问题

• RQ1 自教标签方法是否能通过生成无偏见的伪标签而不依赖目标标注，从而提升领域自适应性能？
• RQ2 在特征空间中的邻域聚合如何提升目标数据伪标签的质量？
• RQ3 SeTL 在零样本或少样本领域自适应设置下，与传统领域对齐方法相比，性能提升程度如何？
• RQ4 记忆库机制是否能有效在自标签迭代过程中保存并传播可靠的软标签？

主要发现

• SeTL 在广泛的领域自适应基准测试中显著优于现有领域对齐技术。
• 该方法通过邻域聚合生成准确且无偏见的伪标签，实现了最先进性能。
• 使用带有软标签的记忆库，使伪标签在多次训练迭代中保持稳定与一致。
• SeTL 通过捕捉目标领域结构，减少仅依赖源领域特征学习带来的偏差，从而提升泛化能力。
• 即使在极少量或无标注目标数据的情况下，该方法仍保持强大性能，展现出在低资源设置下的鲁棒性。
• 非参数化的邻域聚合策略通过利用局部特征相似性，有效识别出可靠的伪标签。