[论文解读] Deep Metric Learning for Few-Shot Image Classification: A Selective Review.

Xiaoxu Li, Xiaochen Yang+2 more|arXiv (Cornell University)|May 17, 2021

Domain Adaptation and Few-Shot Learning参考文献 76被引用 11

一句话总结

本文系统综述了用于少样本图像分类的深度度量学习方法，根据其在应对数据稀缺性和泛化问题上的核心创新将其分为三类。该文整合了度量学习、元学习和迁移学习的最先进技术，揭示了少样本识别领域当前的挑战与未来研究方向。

ABSTRACT

Few-shot image classification is a challenging problem which aims to achieve the human level of recognition based only on a small number of images. Deep learning algorithms such as meta-learning, transfer learning, and metric learning have been employed recently and achieved the state-of-the-art performance. In this survey, we review representative deep metric learning methods for few-shot classification, and categorize them into three groups according to the major problems and novelties they focus on. We conclude this review with a discussion on current challenges and future trends in few-shot image classification.

研究动机与目标

• 系统性回顾代表性深度度量学习方法在少样本图像分类中的应用。
• 根据其主要问题关注点和技术创新对现有方法进行分类。
• 识别少样本图像识别中关键挑战与新兴趋势。

提出的方法

• 本文根据其核心贡献与问题关注点，将现有深度度量学习方法划分为三类不同类别。
• 分析利用度量学习在极少监督下提升特征空间分离能力的技术。
• 研究元学习与迁移学习如何与度量学习结合以增强少样本泛化能力。
• 评估损失函数、网络架构和支持集处理策略在方法论上的差异。
• 讨论课程训练（episodic training）与原型网络在少样本适应中的作用。
• 综合多样化方法的见解，突出共同的设计原则与性能权衡。

实验结果

研究问题

• RQ1 深度度量学习方法如何提升少样本图像分类的性能？
• RQ2 在少样本学习中，不同类别度量学习方法之间的主要技术创新是什么？
• RQ3 元学习与迁移学习如何在数据量极低的场景下增强度量学习？
• RQ4 当前少样本分类方法的关键局限与开放挑战是什么？
• RQ5 深度度量学习在少样本识别中的未来研究方向有哪些？

主要发现

• 综述识别出三类主要的深度度量学习方法，每类分别针对少样本学习中的不同挑战。
• 度量学习通过从少量样本中学习判别性特征嵌入，显著提升了泛化能力。
• 在训练数据极度有限时，元学习与迁移学习能有效提升模型性能。
• 课程训练与基于原型的分类相结合，可实现稳健的少样本泛化。
• 尽管已有进展，模型鲁棒性、领域偏移与数据效率方面的挑战依然存在。
• 未来研究预计将聚焦于自监督预训练、不确定性建模与可扩展的少样本适应。