[论文解读] Boosting Few-Shot Learning With Adaptive Margin Loss

Aoxue Li, Weiran Huang+4 more|arXiv (Cornell University)|May 28, 2020

Domain Adaptation and Few-Shot Learning参考文献 33被引用 9

一句话总结

本文提出了一种少样本学习的自适应边缘损失，该损失根据类间的语义相似度动态调整类间边缘惩罚，从而在基于度量的元学习中提升泛化能力。通过融合与类别相关的语义上下文和与任务相关的语义上下文，该方法在标准和广义少样本学习设置下的 miniImageNet 和 CIFAR-FS 数据集上均取得了当前最优性能，5-way 1-shot 准确率最高提升达 4.3%。

ABSTRACT

Few-shot learning (FSL) has attracted increasing attention in recent years but remains challenging, due to the intrinsic difficulty in learning to generalize from a few examples. This paper proposes an adaptive margin principle to improve the generalization ability of metric-based meta-learning approaches for few-shot learning problems. Specifically, we first develop a class-relevant additive margin loss, where semantic similarity between each pair of classes is considered to separate samples in the feature embedding space from similar classes. Further, we incorporate the semantic context among all classes in a sampled training task and develop a task-relevant additive margin loss to better distinguish samples from different classes. Our adaptive margin method can be easily extended to a more realistic generalized FSL setting. Extensive experiments demonstrate that the proposed method can boost the performance of current metric-based meta-learning approaches, under both the standard FSL and generalized FSL settings.

研究动机与目标

• 通过解决在仅有少量样本时区分相似类别这一挑战，提升基于度量的元学习在少样本学习中的泛化能力。
• 开发一种基于类别间语义相似度自适应调整的边缘机制，而非使用固定边缘。
• 将方法扩展至更贴近现实的广义少样本学习设置，其中测试数据包含基础类和新类。
• 证明在元训练任务中引入语义上下文可增强判别性嵌入学习。
• 通过在标准和广义 FSL 基准上的消融实验与对比研究，验证自适应边缘的有效性。

提出的方法

• 提出一种与类别相关的加法边缘损失，利用预训练语义空间中类间的语义相似度，为每对类别生成自适应边缘。
• 引入一种与任务相关的边缘生成器，基于采样元训练任务中所有类的相对语义上下文计算边缘。
• 将自适应边缘整合到分类损失中，修改标准度量学习目标，使语义上相似的类别之间距离惩罚更大。
• 使用可学习系数 α 根据语义相似度缩放边缘，其中 α > 0 表明相似类别需要更大的边缘。
• 将该方法应用于原型网络及其他基于度量的模型，通过修改推理和训练流程，实现向广义 FSL 的扩展。
• 在嵌入空间中使用余弦距离或欧氏距离作为基础度量，将自适应边缘应用于 logits 或距离得分。

实验结果

研究问题

• RQ1 基于语义相似度的自适应边缘是否能提升少样本学习中的泛化能力？
• RQ2 在元训练任务中考虑所有类之间的语义上下文，是否能带来更好的判别性嵌入学习？
• RQ3 所提出的自适应边缘损失能否有效扩展到广义少样本学习设置？
• RQ4 与固定边缘基线（如加法角边缘和余弦边缘损失）相比，自适应边缘损失的性能如何？
• RQ5 学习到的边缘缩放系数 α 是否反映了相似类别应具有更大边缘的直觉？

主要发现

• 在标准 5-way 1-shot FSL 设置下，该方法在 miniImageNet 上达到 67.10% 的准确率，相比原始分类损失提升 1.89%。
• 在 5-way 5-shot 评估中，该方法准确率达到 79.54%，相比基线提升 4.34%，展现出强大的泛化能力。
• 与类别相关边缘损失相比，任务相关边缘损失在 1-shot 时提升 0.74%，在 5-shot 时提升 2.33%，证实了任务内语义上下文的优势。
• 与加法角边缘损失和余弦边缘损失相比，该方法分别取得 66.92% 和 67.10% 的准确率，表现更优。
• 学习到的边缘系数 α 始终为正，验证了设计直觉：相似类别需要更大的边缘。
• 该方法在广义 FSL 设置下也表现出良好的泛化能力，在测试数据包含基础类和新类时仍保持优异性能。