[论文解读] Domain Generalization via Semi-supervised Meta Learning

Hossein Sharifi-Noghabi, Hossein Asghari+2 more|arXiv (Cornell University)|Sep 26, 2020

Domain Adaptation and Few-Shot Learning参考文献 38被引用 6

一句话总结

该论文提出 DGSML，这是首个将半监督学习与元学习相结合的领域自适应方法，能够利用多个存在分布偏移的源域中的有标签和无标签数据。通过采用基于熵的伪标签法以及新颖的差异损失与对齐损失，DGSML 在基准数据集上取得了最先进性能，尤其在有标签数据稀缺而无标签数据丰富的情况下表现突出。

ABSTRACT

The goal of domain generalization is to learn from multiple source domains to generalize to unseen target domains under distribution discrepancy. Current state-of-the-art methods in this area are fully supervised, but for many real-world problems it is hardly possible to obtain enough labeled samples. In this paper, we propose the first method of domain generalization to leverage unlabeled samples, combining of meta learning's episodic training and semi-supervised learning, called DGSML. DGSML employs an entropy-based pseudo-labeling approach to assign labels to unlabeled samples and then utilizes a novel discrepancy loss to ensure that class centroids before and after labeling unlabeled samples are close to each other. To learn a domain-invariant representation, it also utilizes a novel alignment loss to ensure that the distance between pairs of class centroids, computed after adding the unlabeled samples, is preserved across different domains. DGSML is trained by a meta learning approach to mimic the distribution shift between the input source domains and unseen target domains. Experimental results on benchmark datasets indicate that DGSML outperforms state-of-the-art domain generalization and semi-supervised learning methods.

研究动机与目标

• 解决现实场景中存在分布偏移的多个源域中，有标签数据稀缺但无标签数据丰富的领域自适应挑战。
• 克服现有领域自适应方法仅依赖完全监督学习、忽略无标签样本的局限性。
• 通过同时利用有标签和无标签数据学习领域不变表征，实现对未见目标域的泛化。
• 将半监督学习技术——特别是伪标签法与基于中心点的一致性——整合进元学习框架，以在训练过程中模拟分布偏移。
• 通过最小化伪标签前后类别中心点之间的差异，并保持跨域间类别中心点距离，确保模型的鲁棒性与泛化能力。

提出的方法

• 采用元训练-元测试的 episodic 元学习机制，通过在每轮训练中将源域划分为元训练集和元测试集，模拟源域与未见目标域之间的分布偏移。
• 应用基于熵的伪标签法，为无标签样本分配高置信度预测结果作为伪标签，以支持半监督学习。
• 引入差异损失，强制要求在对无标签样本进行伪标签前后，类别中心点（均值）保持相似。
• 设计对齐损失，确保在引入伪标签样本后，不同域之间类别中心点的距离向量得以保持。
• 使用三重损失函数进行模型优化：任务特定的交叉熵损失、半监督差异损失以及领域对齐损失。
• 在元学习设置下使用二阶梯度端到端训练模型，以提升对未见领域的泛化能力。

实验结果

研究问题

• RQ1 能否有效利用存在分布偏移的多个源域中的有标签和无标签样本，实现领域自适应？
• RQ2 将半监督学习与元学习结合，相较于完全监督的领域自适应方法，是否能显著提升对未见目标域的泛化能力？
• RQ3 在有标签数据有限而无标签数据丰富的条件下，伪标签法能在多大程度上提升模型性能？
• RQ4 保持中心点一致性与跨域间距离是否能增强领域不变表征的学习？
• RQ5 在不同无标签数据比例下，所提方法与最先进方法相比，在准确率方面表现如何？

主要发现

• 在总平均基准测试中，DGSML 达到 72.98% 的测试准确率，显著优于次优方法（MASF 为 70.09%）。
• 在 Sketch 域中，当有标签数据占比为 50% 时，DGSML 达到 95.08% 的准确率，优于最佳基线方法（94.12%）。
• 当使用 ResNet-18 作为特征提取器时，DGSML 在所有无标签数据比例下均保持优异性能，展现出强鲁棒性。
• 当使用 AlexNet 且有标签数据比例较低（如 50%）时，DGSML 达到 72.03% 的准确率，优于所有基线方法。
• 该方法在低样本有标签场景下，持续优于最先进领域自适应与半监督元学习方法。
• 尽管使用了二阶梯度，DGSML 在单张 GeForce GTX 1080 GPU 上训练时间不足四小时，证明了其计算可行性。