[论文解读] Few-Shot Open-Set Recognition using Meta-Learning

Bo Liu, Hao Kang+3 more|arXiv (Cornell University)|May 27, 2020

Domain Adaptation and Few-Shot Learning参考文献 36被引用 5

一句话总结

该论文提出 PEELER，一种用于少样本开放集识别的元学习框架，整合了随机新类别采样、熵最大化损失和马氏距离度量学习。该方法在少样本和大规模开放集识别基准上均取得了最先进性能，在 CIFAR 和 miniImageNet 上显著提升了已见/未见类别检测的 AUROC，同时保持了高精度的已见类别分类性能。

ABSTRACT

The problem of open-set recognition is considered. While previous approaches only consider this problem in the context of large-scale classifier training, we seek a unified solution for this and the low-shot classification setting. It is argued that the classic softmax classifier is a poor solution for open-set recognition, since it tends to overfit on the training classes. Randomization is then proposed as a solution to this problem. This suggests the use of meta-learning techniques, commonly used for few-shot classification, for the solution of open-set recognition. A new oPen sEt mEta LEaRning (PEELER) algorithm is then introduced. This combines the random selection of a set of novel classes per episode, a loss that maximizes the posterior entropy for examples of those classes, and a new metric learning formulation based on the Mahalanobis distance. Experimental results show that PEELER achieves state of the art open set recognition performance for both few-shot and large-scale recognition. On CIFAR and miniImageNet, it achieves substantial gains in seen/unseen class detection AUROC for a given seen-class classification accuracy.

研究动机与目标

• 为解决大规模分类器在开放集识别中的局限性，特别是其对训练类别的过拟合倾向。
• 在单一元学习框架下统一少样本与大规模开放集识别。
• 通过利用元学习原则和度量学习，提升开放集识别的鲁棒性与泛化能力。
• 开发一种在数据稀缺条件下表现良好，同时在大规模设置中保持强性能的方法。
• 在标注有限的弱监督物体发现任务中，验证该方法的有效性。

提出的方法

• 该方法采用基于任务的元学习，每轮任务中随机选择新类别，以在训练期间模拟开放集条件。
• 提出一种新型损失函数，对新类别样本最大化后验熵，以增强拒绝区域中的不确定性。
• 采用基于马氏距离的度量学习组件，以改善特征空间结构，提升对已见类别之外的泛化能力。
• 模型通过端到端训练，对已见类别使用交叉熵损失，对开放集样本使用熵最大化损失。
• 推理阶段，根据样本到最近类别中心的马氏距离，判断其为已见类别或拒绝为未见类别。
• 通过调整任务采样策略和损失组件，将该框架适配于大规模识别任务。

实验结果

研究问题

• RQ1 为少样本分类设计的元学习技术能否有效扩展至开放集识别？
• RQ2 在新类别中引入熵最大化是否能提升开放集检测性能？
• RQ3 所提出的马氏距离度量学习组件如何增强开放集识别中的泛化能力？
• RQ4 统一模型能否在少样本与大规模开放集识别设置中均实现最先进性能？
• RQ5 该方法对开放集类别数量和每类样本数的变化有多大的鲁棒性？

主要发现

• PEELER 在少样本和大规模开放集识别基准上均实现了最先进水平的 AUROC 性能，在 CIFAR 和 miniImageNet 上相较先前方法有显著提升。
• 在 mini-ImageNet 上，PEELER 显著提升了 AUROC，同时保持了高精度的已见类别分类性能，展现出强大的泛化能力。
• 该方法在不同开放集类别数量（1–10）和每类样本数下性能波动极小，表明对这些因素具有高度鲁棒性。
• 在 XJTU-Stevens 数据集的弱监督物体发现任务中，PEELER 超过最佳现有方法（VODC），在所有设置下将误分类帧数减少了一半。
• 消融实验确认，熵最大化损失和马氏距离度量学习是性能的关键组件，尤其在开放集检测中作用显著。
• 模型能从少样本设置良好泛化至大规模设置，表明基于元学习的架构在分布偏移下比标准交叉熵训练分类器更具内在鲁棒性。