[论文解读] Open-world machine learning: A review and new outlooks

Fei Zhu, Shijie Ma+5 more|arXiv (Cornell University)|Mar 4, 2024

Artificial Intelligence in Healthcare被引用 11

一句话总结

对开放世界机器学习（OWL）的全面综述，涵盖未知拒绝、Novel class discovery、以及类别增量学习，并讨论挑战、原则与未来方向。

ABSTRACT

Machine learning has achieved remarkable success in many applications. However, existing studies are largely based on the closed-world assumption, which assumes that the environment is stationary, and the model is fixed once deployed. In many real-world applications, this fundamental and rather naive assumption may not hold because an open environment is complex, dynamic, and full of unknowns. In such cases, rejecting unknowns, discovering novelties, and then continually learning them, could enable models to be safe and evolve continually as biological systems do. This article presents a holistic view of open-world machine learning by investigating unknown rejection, novelty discovery, and continual learning in a unified paradigm. The challenges, principles, and limitations of current methodologies are discussed in detail. Furthermore, widely used benchmarks, metrics, and performances are summarized. Finally, we discuss several potential directions for further progress in the field. By providing a comprehensive introduction to the emerging open-world machine learning paradigm, this article aims to help researchers build more powerful AI systems in their respective fields, and to promote the development of artificial general intelligence.

研究动机与目标

• 介绍开放世界机器学习范式及其三大核心组件：未知拒绝、新颖类别发现和类别增量学习。
• 评估现有方法并对OWL在未知拒绝、NCD和CIL下的方法进行分类。
• 识别挑战、局限性与实际考量，以指导未来研究与应用。

提出的方法

• 综合并对最近在未知拒绝方面的进展进行分类，包括OOD检测和OSR，并讨论基于分数的、基于训练的以及基于离群的 approaches。
• 回顾新颖类别发现技术，包括一阶段和多阶段的深度迁移聚类方法，并讨论它们将知识从旧类别迁移到新类别的方式。
• 总结开放世界设定下的类别增量学习，并讨论在增量更新中结合发现与防止灾难性遗忘的策略。

实验结果

研究问题

• RQ1 开放世界机器学习的主要任务和生命周期步骤是什么（未知拒绝、新颖类别发现和类别增量学习）？
• RQ2 当前方法如何解决未知拒绝（OOD检测、OSR），它们的优点与局限性是什么？
• RQ3 在给定已标记的旧类别和未标记的未知样本的情况下，新颖类别发现如何有效进行？
• RQ4 在开放环境中扩展到类别增量学习时会出现哪些挑战，如何在不忘记的情况下积累知识？

主要发现

• OWL 将未知拒绝、新颖类别发现和持续学习整合，以适应动态环境。
• OOD检测和OSR是未知拒绝的核心，具有多种训练和推理策略（事后、训练时和基于离群的方法）。
• 新颖类别发现依赖于将知识从带标签的旧类别转移到未标记的新类别，采用多阶段和一阶段方法。
• 广义类别发现通过处理包括旧类和新类在内的未标记数据来扩展NCD，通常利用对比学习和非参数分类器。
• 挑战包括开放空间风险、旧类与新类之间的语义相似性，以及在增量更新过程中避免灾难性遗忘。
• 评估依赖于如AUROC等用于OOD检测和开放集合识别性能的指标，强调可靠的置信估计和鲁棒的表示。