[论文解读] Few-Shot Learning as Domain Adaptation: Algorithm and Analysis

Jiechao Guan, Zhiwu Lu+2 more|arXiv (Cornell University)|Feb 6, 2020

Domain Adaptation and Few-Shot Learning参考文献 37被引用 9

一句话总结

该论文提出DAPNA，一种基于注意力机制的领域自适应原型网络，通过使用基于集合变换器的注意力模块和带有边际差异差异性（MDD）损失的特征迁移网络，显式地解决了少样本学习中已见类别与未见类别之间的分布偏移问题。该方法通过改进特征对齐和理论泛化界，实现了最先进性能。

ABSTRACT

To recognize the unseen classes with only few samples, few-shot learning (FSL) uses prior knowledge learned from the seen classes. A major challenge for FSL is that the distribution of the unseen classes is different from that of those seen, resulting in poor generalization even when a model is meta-trained on the seen classes. This class-difference-caused distribution shift can be considered as a special case of domain shift. In this paper, for the first time, we propose a domain adaptation prototypical network with attention (DAPNA) to explicitly tackle such a domain shift problem in a meta-learning framework. Specifically, armed with a set transformer based attention module, we construct each episode with two sub-episodes without class overlap on the seen classes to simulate the domain shift between the seen and unseen classes. To align the feature distributions of the two sub-episodes with limited training samples, a feature transfer network is employed together with a margin disparity discrepancy (MDD) loss. Importantly, theoretical analysis is provided to give the learning bound of our DAPNA. Extensive experiments show that our DAPNA outperforms the state-of-the-art FSL alternatives, often by significant margins.

研究动机与目标

• 为解决少样本学习（FSL）中已见类别与未见类别之间的分布偏移问题，尽管元训练在已见类别上进行，但该问题仍阻碍泛化能力。
• 将已见类别与未见类别之间的领域偏移建模为元学习框架内的一种特殊领域自适应情形。
• 利用有限的少样本，改进已见类别与未见类别之间的特征分布对齐。
• 为所提出方法提供理论学习界，以确保泛化保证。

提出的方法

• 该方法从两个子任务中构建每个任务，且在已见类别上无类别重叠，以模拟已见类别与未见类别之间的领域偏移。
• 采用基于集合变换器的注意力模块，以建模支持样本之间的关系，并改善特征表示学习。
• 引入特征迁移网络，以在有限标注数据下对齐两个子任务的特征分布。
• 采用边际差异差异性（MDD）损失，以最小化领域差异性，同时保持类别可分性。
• 模型在元学习范式下端到端训练，以优化跨任务的少样本泛化能力。
• 理论分析为DAPNA提供了泛化界，将模型性能与领域偏移及数据稀缺性联系起来。

实验结果

研究问题

• RQ1 如何有效将领域自适应技术整合到少样本学习中，以缓解已见类别与未见类别之间的分布偏移？
• RQ2 基于集合变换器的注意力机制是否能改善在领域偏移下的少样本学习中的特征对齐？
• RQ3 在低样本场景下，结合特征迁移网络的MDD损失在多大程度上提升了泛化能力？
• RQ4 明确建模领域偏移的少样本学习模型的理论泛化界是什么？

主要发现

• DAPNA在标准少样本学习基准上实现了最先进性能，显著优于现有方法。
• 基于集合变换器的注意力机制的整合，提升了特征表示学习能力与模型在领域偏移下的鲁棒性。
• 结合MDD损失的特征迁移网络，能以极少标注数据有效对齐已见类别与未见类别之间的特征分布。
• 理论分析证实DAPNA具有更紧致的泛化界，验证了其对领域偏移的鲁棒性。
• 实证结果表明，该方法在多个少样本学习协议和数据集上均表现出一致的性能提升。