[论文解读] Regression Networks for Meta-Learning Few-Shot Classification

Arnout Devos, Matthias Grossglauser|arXiv (Cornell University)|May 31, 2019

Domain Adaptation and Few-Shot Learning参考文献 29被引用 4

一句话总结

本文提出回归网络用于少样本图像分类，其中通过回归每个类别嵌入子空间中最近似点来对查询点进行分类，并将回归误差用作距离度量。该方法通过利用高维嵌入中的方向信息以及鲁棒的类别子空间建模，在更高样本设置下实现了最先进性能。

ABSTRACT

We propose regression networks for the problem of few-shot classification, where a classifier must generalize to new classes not seen in the training set, given only a small number of examples of each class. In high dimensional embedding spaces the direction of data generally contains richer information than magnitude. Next to this, state-of-the-art few-shot metric methods that compare distances with aggregated class representations, have shown superior performance. Combining these two insights, we propose to meta-learn classification of embedded points by regressing the closest approximation in every class subspace while using the regression error as a distance metric. Similarly to recent approaches for few-shot learning, regression networks reflect a simple inductive bias that is beneficial in this limited-data regime and they achieve excellent results, especially when more aggregate class representations can be formed with multiple shots.

研究动机与目标

• 解决少样本图像分类的挑战，即模型必须在仅有少量标注样本的情况下泛化到新类别。
• 克服现有基于度量方法的局限性，这些方法依赖于简单的类中心比较，可能未能充分利用高维嵌入中的方向信息。
• 通过基于回归的类别子空间建模，学习更鲁棒、更结构化的表示，以提升在域偏移下的泛化能力。
• 开发一种简单但有效的元学习框架，体现低数据场景下的有益归纳偏置。
• 在多个少样本基准上展示优越性能，尤其在每类有超过一个样本时表现更优。

提出的方法

• 使用具有可学习参数 φ 的神经网络将输入图像映射到高维嵌入空间。
• 对于每个类别，从 K 个支持集嵌入 fₚ(𝐱ₙᵢ) 构建一个 K 维子空间矩阵 Sₙ。
• 对于每个查询点 eᵢ，使用学习到的线性映射回归其在每个类别子空间内的最佳近似。
• 将回归误差 d̃(eᵢ, Sₙ) 计算为查询点与类别子空间之间距离的度量。
• 通过选择最小回归误差的类别对查询点进行分类。
• 在训练过程中使用子空间正交化正则化器，以提升泛化能力并减少学习到的子空间之间的冗余。

实验结果

研究问题

• RQ1 在类别子空间内基于回归的近似是否能超越使用类中心的标准度量学习，在少样本分类中取得更好性能？
• RQ2 在高维嵌入中利用方向信息如何影响低样本设置下的性能表现？
• RQ3 将类别表示建模为子空间而非单一点，是否能提升在域偏移下的泛化能力？
• RQ4 随着样本数量增加（如1-shot与5-shot、10-shot对比），回归网络的性能如何变化？
• RQ5 在域内和域外评估下，该方法与最先进度量学习基线（如ProtoNet和RelationNet）相比表现如何？

主要发现

• 在多个主干网络（Conv-4、ResNet-10、ResNet-34）下，回归网络在mini-ImageNet上实现了5-way 1-shot、5-shot和10-shot分类的最先进性能。
• 在使用ResNet-10主干网络的5-way 1-shot mini-ImageNet设置下，回归网络达到74.03%的准确率，优于ProtoNet（73.77%）和RelationNet（69.97%）。
• 在具有挑战性的5-way 5-shot mini-ImageNet → CUB域偏移设置中，回归网络达到62.71%的准确率，显著优于ProtoNet（59.22%）和RelationNet（54.36%）。
• 在CUB → mini-ImageNet设置中，回归网络在域偏移下仍保持56.66%的准确率，优于所有基线模型。
• 随着样本数量增加，该方法相对于基线模型的性能持续提升，表明子空间建模方法能从更多支持样本中获益。
• 引入子空间正交化正则化器可提升泛化能力，尤其在域偏移场景下表现更优，证实其在低数据场景下的有效性。