[논문 리뷰] Open-world machine learning: A review and new outlooks

Fei Zhu, Shijie Ma외 5명|arXiv (Cornell University)|2024. 03. 04.

Artificial Intelligence in Healthcare인용 수 11

한 줄 요약

오픈 월드 머신러닝(OWL)에 대한 포괄적 고찰로, 미지의 거부(unknown rejection), 새로운 클래스 발견, 그리고 클래스 증분 학습을 다루고 있으며, 도전 과제, 원리 및 향후 방향에 대해 논의한다.

ABSTRACT

Machine learning has achieved remarkable success in many applications. However, existing studies are largely based on the closed-world assumption, which assumes that the environment is stationary, and the model is fixed once deployed. In many real-world applications, this fundamental and rather naive assumption may not hold because an open environment is complex, dynamic, and full of unknowns. In such cases, rejecting unknowns, discovering novelties, and then continually learning them, could enable models to be safe and evolve continually as biological systems do. This article presents a holistic view of open-world machine learning by investigating unknown rejection, novelty discovery, and continual learning in a unified paradigm. The challenges, principles, and limitations of current methodologies are discussed in detail. Furthermore, widely used benchmarks, metrics, and performances are summarized. Finally, we discuss several potential directions for further progress in the field. By providing a comprehensive introduction to the emerging open-world machine learning paradigm, this article aims to help researchers build more powerful AI systems in their respective fields, and to promote the development of artificial general intelligence.

연구 동기 및 목표

• 오픈 월드 머신러닝 패러다임과 그 세 가지 핵심 구성 요소인: unknown rejection, novel class discovery, 및 class-incremental learning을 도입한다.
• Survey existing methods and categorize approaches for OWL under unknown rejection, NCD, and CIL.
• 향후 연구 및 적용을 안내하기 위한 도전 과제, 한계 및 실용적 고려사항을 식별한다.

제안 방법

• OOD 탐지와 OSR를 포함한 unknown rejection의 최근 발전을 종합하고 분류하며, score-based, training-based, 및 outlier-aided 접근법을 논의한다.
• 단일 단계 및 다단계 딥 트랜스퍼 클러스터링 접근법을 포함한 novel class discovery 기법을 검토하고, 오래된 클래스에서 새로운 클래스로의 지식 이전을 논의한다.
• 오픈 월드 설정에서의 클래스 증분 학습을 요약하고, 파국적 망각 없이 발견과 점진적 업데이트를 통합하는 전략을 논의한다.

실험 결과

연구 질문

• RQ1 오픈 월드 머신러닝의 주요 작업과 라이프사이클 단계는 무엇인가요(unknown rejection, novel class discovery, 및 class-incremental learning)?
• RQ2 현재 방법들이 unknown rejection(OOD 탐지, OSR)를 어떻게 다루며 그 강점과 한계는 무엇인가?
• RQ3 라벨링된 오래된 클래스와 라벨이 없는 미지의 클래스가 주어졌을 때, novel class discovery를 어떻게 효과적으로 수행할 수 있는가?
• RQ4 오픈 환경에서 클래스 증분 학습으로 확장할 때 어떤 도전 과제가 생기며, 망각 없이 지식을 축적할 수 있는가?

주요 결과

• OWL은 미지의 거부, 새로운 클래스 발견, 지속 학습을 통합하여 변화하는 환경에 적응한다.
• OOD 탐지와 OSR은 unknown rejection의 중심이며, 다수의 학습 및 추론 전략(post-hoc, training-time, 및 outlier-based 방법)을 포함한다.
• 새로운 클래스 발견은 레이블이 붙은 오래된 클래스에서 라벨이 없는 새로운 클래스로 지식을 전이하는 것에 의존하며, 다단계와 단일 단계 접근법을 모두 사용한다.
• 일반화된 카테고리 발견은 오래된 클래스와 새로운 클래스를 모두 포함하는 라벨이 없는 데이터를 다룸으로써 NCD를 확장하며, 종종 대조학습과 비파라메트릭 분류기를 활용한다.
• 도전 과제로는 오픈 스페이스 리스크, 오래된 클래스와 새로운 클래스 간의 의미적 유사성, 및 점진적 업데이트 중 망각 방지가 있다.
• 평가는 OOD 탐지와 open-set 인식 성능에 대한 AUROC와 같은 지표에 의존하며, 신뢰할 수 있는 신뢰도 추정과 강건한 표현에 중점을 둔다.