[论文解读] Diversity Helps: Unsupervised Few-shot Learning via Distribution Shift-based Data Augmentation

Tiexin Qin, Wenbin Li+2 more|arXiv (Cornell University)|Apr 13, 2020

Domain Adaptation and Few-Shot Learning参考文献 37被引用 19

一句话总结

本文提出ULDA，一种新颖的无监督少样本学习框架，通过在支持集和查询集之间引入非对称数据增强以增加分布多样性，从而提升模型泛化能力。通过在支持集和查询集上应用不同的增强技术——引发分布偏移——该方法显著减少了过拟合，并在Omniglot和miniImageNet上实现了最先进性能，且无需使用标注的辅助数据。

ABSTRACT

Few-shot learning aims to learn a new concept when only a few training examples are available, which has been extensively explored in recent years. However, most of the current works heavily rely on a large-scale labeled auxiliary set to train their models in an episodic-training paradigm. Such a kind of supervised setting basically limits the widespread use of few-shot learning algorithms. Instead, in this paper, we develop a novel framework called Unsupervised Few-shot Learning via Distribution Shift-based Data Augmentation (ULDA), which pays attention to the distribution diversity inside each constructed pretext few-shot task when using data augmentation. Importantly, we highlight the value and importance of the distribution diversity in the augmentation-based pretext few-shot tasks, which can effectively alleviate the overfitting problem and make the few-shot model learn more robust feature representations. In ULDA, we systemically investigate the effects of different augmentation techniques and propose to strengthen the distribution diversity (or difference) between the query set and support set in each few-shot task, by augmenting these two sets diversely (i.e., distribution shifting). In this way, even incorporated with simple augmentation techniques (e.g., random crop, color jittering, or rotation), our ULDA can produce a significant improvement. In the experiments, few-shot models learned by ULDA can achieve superior generalization performance and obtain state-of-the-art results in a variety of established few-shot learning tasks on Omniglot and miniImageNet. The source code is available in https://github.com/WonderSeven/ULDA.

研究动机与目标

• 解决因在支持集和查询集上使用相同增强方法而导致的无监督少样本学习中的过拟合问题。
• 通过从无标注数据中有效训练，减少对大规模标注辅助数据集的依赖。
• 通过系统性地增加增强后支持集与查询集之间的分布差异，提升模型泛化能力。
• 证明数据增强中的分布多样性是实现鲁棒少样本表示学习的关键因素。
• 开发一种简单而有效的框架，在不依赖复杂架构或监督信号的情况下，提升标准少样本基准上的性能。

提出的方法

• 提出ULDA框架，通过在每个少样本任务中对支持集和查询集应用不同的数据增强技术，以诱导分布偏移。
• 采用多样化增强策略——如随机裁剪、颜色抖动、旋转，以及一种新方法DSTIM（基于实例调制的动态风格迁移）——以增强分布差异。
• 实施非对称增强：支持集与查询集分别使用不同的增强技术，防止模型记忆增强后的模式。
• 使用KL散度和Fréchet Inception Distance（FID）度量分布偏移，表明更高的分布差异与更好的泛化能力相关。
• 以端到端方式将ULDA集成到现有少样本学习器（如ProtoNets和MetaOptNet）中，实现即插即用的性能提升。
• 通过调整DSTIM中的超参数α（控制风格迁移强度）来优化增强策略，并在多种设置下验证其鲁棒性。

实验结果

研究问题

• RQ1 通过增加增强后支持集与查询集之间的分布多样性，能否提升无监督少样本学习中的泛化能力？
• RQ2 与对称增强相比，对支持集和查询集应用不同增强技术的非对称增强是否能更有效地减少过拟合？
• RQ3 通过KL散度和FID度量的分布偏移程度与下游少样本分类准确率之间有何相关性？
• RQ4 像ULDA这样简单且无监督的框架能否在不依赖大规模标注辅助数据的情况下实现最先进性能？
• RQ5 哪些增强策略及其组合能在少样本学习任务中产生最有效的分布偏移与泛化能力？

主要发现

• ULDA在5-way 1-shot miniImageNet上达到39.64%的准确率，在5-way 5-shot上达到54.37%，优于以往无监督方法，并在该基准上创下新的SOTA记录。
• 在查询集上使用AA（AutoAugment）而在支持集上使用TA（传统增强）时，5-way 1-shot准确率达到35.37%，较对称增强（TA+TA）提升了2.79%。
• 在查询集上使用AA、支持集上使用R（旋转）时，5-way 1-shot准确率达到39.18%，KL散度为0.73，FID为183.06，表明存在显著的分布偏移。
• 当采用最多样化的增强组合（查询集使用AA+TIM_sub，支持集使用R+TA+TIM_add）时，ULDA在5-way 1-shot上达到39.64%（±0.60），在5-way 5-shot上达到54.37%（±0.58），表现出一致的性能提升。
• t-SNE可视化结果证实，与对称增强相比，ULDA生成的支持集与查询集之间的特征表示更具多样性且重叠更少。
• 该方法在DSTIM的α值变化范围内表现稳定，性能波动小于1%，表明其行为稳定可靠。