[论文解读] Learning to Accept New Classes without Training.

Hu Xu, Bing Liu+2 more|arXiv (Cornell University)|Sep 17, 2018

Machine Learning and Data Classification被引用 5

一句话总结

本文提出了一种用于开放世界学习的元学习框架，使模型能够在不重新训练的情况下增量式地接受新类别并拒绝未见过的类别。该方法使用在已知类别上训练的元分类器，在推理过程中通过动态整合新类别的实时标注样本进行自适应，从而在不更新核心模型的前提下实现鲁棒的分类与拒绝。

ABSTRACT

Classic supervised learning makes the closed-world assumption, meaning that classes seen in testing must have been seen in training. However, in the dynamic world, new or unseen class examples may appear constantly. A model working in such an environment must be able to reject unseen classes (not seen or used in training). If enough data is collected for the unseen classes, the system should incrementally learn to accept/classify them. This learning paradigm is called open-world learning (OWL). Existing OWL methods all need some form of re-training to accept or include the new classes in the overall model. In this paper, we propose a meta-learning approach to the problem. Its key novelty is that it only needs to train a meta-classifier, which can then continually accept new classes when they have enough labeled data for the meta-classifier to use, and also detect/reject future unseen classes. No re-training of the meta-classifier or a new overall classifier covering all old and new classes is needed. In testing, the method only uses the examples of the seen classes (including the newly added classes) on-the-fly for classification and rejection. Experimental results demonstrate the effectiveness of the new approach.

研究动机与目标

• 解决经典监督学习的局限性，即假设所有类别在训练时均已知。
• 使模型能够在推理过程中检测并拒绝未见过的类别，这是现实世界动态环境中的一项关键挑战。
• 在不重新训练整个模型或更新基础分类器的情况下，实现新类别的增量学习。
• 开发一种系统，可在获得足够标注数据后接受新类别，同时保持高准确率与鲁棒性。

提出的方法

• 在初始已知类别上训练元分类器，以学习通用的决策边界，用于分类与拒绝。
• 在推理过程中，模型动态地将新引入类别的实时标注样本整合到分类过程中。
• 当添加新类别时，元分类器无需重新训练，而是通过实时使用新样本进行自适应。
• 系统使用拒绝机制，基于不确定度或异常分数识别并排除未来未见过的类别。
• 分类与拒绝仅基于当前已知类别集合（包括新添加的类别）执行，无需存储或重新训练旧数据。
• 该方法利用元学习原则，实现对类别分布的泛化，并在增量学习过程中保持稳定性。

实验结果

研究问题

• RQ1 模型能否在不重新训练基础分类器或更新其参数的情况下学习接受新类别？
• RQ2 模型在推理过程中检测并拒绝先前未见过的类别有多高效？
• RQ3 当仅使用实时标注样本增量引入新类别时，元分类器能否保持高准确率与鲁棒性？
• RQ4 所提出方法在持续进行类别发现的开放世界场景中的表现如何？

主要发现

• 所提方法成功在不重新训练元分类器或整体模型的情况下接受新类别。
• 即使新类别被动态引入，模型在检测和拒绝未见过类别方面仍保持强劲性能。
• 通过在推理过程中利用新类别的实时标注样本，系统实现了有效的增量学习。
• 实验结果表明，该方法在开放世界学习设置中表现优异，优于需要重新训练的现有方法。