[논문 리뷰] Learning to Accept New Classes without Training.

Hu Xu, Bing Liu외 2명|arXiv (Cornell University)|2018. 09. 17.

Machine Learning and Data Classification인용 수 5

한 줄 요약

이 논문은 재학습 없이 새로운 클래스를 수용하고 볼 수 없는 클래스를 거부할 수 있도록 허용하는 오픈월드 학습을 위한 메타학습 프레임워크를 제안한다. 이 방법은 볼 수 있는 클래스에 대해 훈련된 메타분류기로, 새로운 클래스의 실시간 레이블이 부여된 예제를 통합함으로써 추론 중에 동적으로 적응하며, 핵심 모델을 업데이트하지 않고도 강건한 분류와 거부를 달성한다.

ABSTRACT

Classic supervised learning makes the closed-world assumption, meaning that classes seen in testing must have been seen in training. However, in the dynamic world, new or unseen class examples may appear constantly. A model working in such an environment must be able to reject unseen classes (not seen or used in training). If enough data is collected for the unseen classes, the system should incrementally learn to accept/classify them. This learning paradigm is called open-world learning (OWL). Existing OWL methods all need some form of re-training to accept or include the new classes in the overall model. In this paper, we propose a meta-learning approach to the problem. Its key novelty is that it only needs to train a meta-classifier, which can then continually accept new classes when they have enough labeled data for the meta-classifier to use, and also detect/reject future unseen classes. No re-training of the meta-classifier or a new overall classifier covering all old and new classes is needed. In testing, the method only uses the examples of the seen classes (including the newly added classes) on-the-fly for classification and rejection. Experimental results demonstrate the effectiveness of the new approach.

연구 동기 및 목표

• 모든 클래스가 훈련 시점에 알려져 있다고 가정하는 전통적 지도학습의 한계를 해결하기 위해.
• 실제 동적 환경에서의 핵심 과제인 추론 중에 볼 수 없는 클래스를 탐지하고 거부할 수 있도록 모델을 가능하게 하기 위해.
• 기본 분류기 전체를 재학습하거나 업데이트하지 않고도 새로운 클래스를 점진적으로 학습할 수 있도록 하기 위해.
• 충분한 레이블이 부여된 데이터가 확보되면 새로운 클래스를 수용할 수 있는 시스템을 개발하여 높은 정확도와 강건성을 유지하기 위해.

제안 방법

• 초기로 관찰된 클래스에 대해 훈련된 메타분류기는 일반화된 결정 경계를 학습하여 분류 및 거부를 수행한다.
• 추론 중에 새로운 클래스의 실시간 레이블이 부여된 예제를 분류 과정에 동적으로 통합한다.
• 새로운 클래스가 추가될 때 메타분류기를 재학습할 필요 없이, 실시간으로 새로운 예제를 사용해 적응한다.
• 불확실성 또는 이방성 점수를 기반으로 향후 볼 수 없는 클래스를 식별하고 제외하는 거부 메커니즘을 사용한다.
• 기존 데이터를 저장하거나 다시 훈련하지 않고도 현재 관찰된 클래스 세트(새로 추가된 클래스 포함)만을 사용하여 분류 및 거부를 수행한다.
• 메타학습 원리를 활용하여 클래스 분포 간의 일반화를 달성하고 점진적 학습 중 안정성을 유지한다.

실험 결과

연구 질문

• RQ1 기본 분류기나 모델의 파라미터를 재학습하지 않고도 모델이 새로운 클래스를 수용할 수 있는가?
• RQ2 모델은 추론 중에 이전에 본 적 없는 클래스를 얼마나 효과적으로 탐지하고 거부할 수 있는가?
• RQ3 실시간으로 레이블이 부여된 예제만을 사용하여 점진적으로 새로운 클래스를 통합할 때 메타분류기가 높은 정확도와 강건성을 유지할 수 있는가?
• RQ4 지속적인 클래스 발견이 이루어지는 오픈월드 시나리오에서 제안된 방법의 성능은 어떠한가?

주요 결과

• 제안된 방법은 메타분류기나 전체 모델의 재학습 없이도 새로운 클래스를 성공적으로 수용한다.
• 새로운 클래스가 동적으로 도입되더라도, 볼 수 없는 클래스를 탐지하고 거부하는 데 있어 강력한 성능을 유지한다.
• 추론 중에 새로운 클래스의 실시간 레이블이 부여된 예제를 활용함으로써 효과적인 점진적 학습을 달성한다.
• 실험 결과는 재학습이 필요한 기존 접근법을 능가하는 성능을 보이며, 오픈월드 학습 환경에서의 효과성을 입증한다.