[论文解读] Improving Few-Shot Visual Classification with Unlabelled Examples

Peyman Bateni, Jarred Barber+2 more|arXiv (Cornell University)|May 4, 2021

Domain Adaptation and Few-Shot Learning被引用 3

一句话总结

该论文提出了一种归纳元学习方法，通过将基于正则化马氏距离的软k均值聚类与改进的神经特征提取器相结合，利用未标记样本提升少样本图像分类性能。该方法在Meta-Dataset、mini-ImageNet和tiered-ImageNet基准上实现了最先进性能，有效利用了推理阶段的未标记数据。

ABSTRACT

We propose a transductive meta-learning method that uses unlabelled instances to improve few-shot image classification performance. Our approach combines a regularized Mahalanobis-distance-based soft k-means clustering procedure with a modified state of the art neural adaptive feature extractor to achieve improved test-time classification accuracy using unlabelled data. We evaluate our method on transductive few-shot learning tasks, in which the goal is to jointly predict labels for query (test) examples given a set of support (training) examples. We achieve new state of the art performance on the Meta-Dataset and the mini-ImageNet and tiered-ImageNet benchmarks.

研究动机与目标

• 通过在推理过程中引入未标记样本，提升少样本视觉分类的准确性。
• 解决少样本学习场景中标签数据有限的挑战。
• 开发一种联合优化方法，利用支持集和未标记样本对查询图像进行预测。
• 在mini-ImageNet和tiered-ImageNet等标准少样本学习基准上实现最先进性能。
• 以一种无需额外训练的方式，整合聚类与特征自适应。

提出的方法

• 该方法在测试阶段采用基于正则化马氏距离的软k均值聚类过程，对未标记样本进行分组。
• 对当前最先进神经特征提取器进行修改，使其能够自适应学习支持聚类与分类的表示。
• 通过正则化处理聚类过程，防止过拟合并提升在少样本任务上的泛化能力。
• 该框架在归纳设置下运行，其中查询图像的预测与未标记数据联合进行。
• 最终通过优化后的特征和聚类分配执行分类，以提升预测准确性。
• 在推理阶段将聚类与特征自适应整合到统一的优化过程中。

实验结果

研究问题

• RQ1 在推理过程中使用未标记样本是否能提升少样本分类性能？
• RQ2 如何对聚类进行正则化，以在低数据环境下增强泛化能力？
• RQ3 将聚类与自适应特征学习相结合，对少样本基准有何影响？
• RQ4 仅使用未标记数据的归纳方法是否能超越归纳少样本学习基线？
• RQ5 所提方法与现有最先进方法在标准少样本数据集上的表现如何比较？

主要发现

• 该方法在Meta-Dataset基准上实现了最先进性能，优于先前方法。
• 在mini-ImageNet基准上创下新的最先进结果，显著提升了准确率。
• 该方法在tiered-ImageNet基准上也实现了最先进性能，证实了其在多样化少样本数据集上的泛化能力。
• 通过正则化聚类整合未标记样本，显著提升了推理阶段的分类准确率。
• 所提方法有效利用了未标记数据，且无需额外训练或模型微调。
• 在软k均值聚类中使用马氏距离，提升了低样本场景下的聚类质量和分类性能。