[论文解读] A Theoretical Analysis of the Number of Shots in Few-Shot Learning

Tianshi Cao, Marc T. Law+1 more|arXiv (Cornell University)|Sep 25, 2019

Domain Adaptation and Few-Shot Learning参考文献 29被引用 12

一句话总结

本文对少样本学习中支持样本数（k）对原型网络（Prototypical Networks）的影响进行了理论分析，指出k通过影响类内方差的缩放程度来影响性能。本文提出嵌入空间变换（Embedding Space Transformation, EST）方法，通过重构嵌入空间以最大化类间与类内方差的比值，显著减轻了训练与测试阶段支持样本数不匹配时的性能下降，在基准数据集上实现了在多种支持样本设置下的鲁棒准确率。

ABSTRACT

Few-shot classification is the task of predicting the category of an example from a set of few labeled examples. The number of labeled examples per category is called the number of shots (or shot number). Recent works tackle this task through meta-learning, where a meta-learner extracts information from observed tasks during meta-training to quickly adapt to new tasks during meta-testing. In this formulation, the number of shots exploited during meta-training has an impact on the recognition performance at meta-test time. Generally, the shot number used in meta-training should match the one used in meta-testing to obtain the best performance. We introduce a theoretical analysis of the impact of the shot number on Prototypical Networks, a state-of-the-art few-shot classification method. From our analysis, we propose a simple method that is robust to the choice of shot number used during meta-training, which is a crucial hyperparameter. The performance of our model trained for an arbitrary meta-training shot number shows great performance for different values of meta-testing shot numbers. We experimentally demonstrate our approach on different few-shot classification benchmarks.

研究动机与目标

• 理解支持样本数（k）对原型网络中少样本分类性能的理论影响。
• 阐明在元训练与元测试阶段使用不同支持样本数时性能下降的原因。
• 开发一种方法，提升模型在不同支持样本数下的泛化能力，减少对精确k匹配的依赖。
• 利用VC可学习性理论，将支持样本数与嵌入空间的固有维度联系起来。
• 提出一种实用且鲁棒的少样本学习方法，无论支持样本数是否匹配，均能保持高准确率。

提出的方法

• 通过理论分析推导出ProtoNets的性能边界，表明k会缩放类内方差对分类误差的贡献。
• 应用VC可学习性理论，将元训练阶段的支持样本数与嵌入空间的固有维度联系起来。
• 提出一种名为嵌入空间变换（EST）的新方法，通过最大化类间方差与类内方差的比值来重构嵌入空间。
• EST对嵌入空间施加线性变换，在保持维度不变的同时增强类间可分性。
• 该方法与元学习器端到端联合训练，使模型在推理阶段可适应任意支持样本数而无需重新训练。
• 在标准少样本基准数据集（如miniImageNet、CUB200）上，于不同支持样本设置下进行了实证验证。

实验结果

研究问题

• RQ1 元训练阶段使用的支持样本数如何影响原型网络的泛化性能？
• RQ2 支持样本数与嵌入空间固有维度之间存在何种理论关系？
• RQ3 为何当元训练与元测试阶段使用的支持样本数不同时，性能会下降？
• RQ4 能否训练一个单一模型，在无需重新训练的情况下，对多种支持样本数均表现良好？
• RQ5 与标准ProtoNets相比，所提出方法在支持样本数不匹配时的鲁棒性如何提升？

主要发现

• 在10-shot下训练的原型网络在1-shot设置下的准确率相比1-shot训练模型下降了9个百分点，表明在支持样本数不匹配时存在显著性能下降。
• 理论分析表明，支持样本数k会缩放类内方差对分类误差的贡献，直接影响模型性能。
• 基于VC可学习性理论推导出，元训练阶段使用的支持样本数会影响嵌入空间的固有维度。
• 所提出的EST方法在miniImageNet和CUB200等具有挑战性的基准数据集上表现优异，尤其在支持样本数不匹配条件下。
• EST在不同支持样本数下实现了最先进的鲁棒性，优于标准ProtoNets以及直接的PCA降维方法。
• 实证结果证实，EST的性能提升并非单纯源于降维，而是源于变换后空间中类间可分性的显著改善。