[논문 리뷰] Open-World Learning Without Labels

Mohsen Jafarzadeh, Akshay Raj Dhamija외 4명|arXiv (Cornell University)|2020. 11. 25.

Anomaly Detection Techniques and Applications참고 문헌 41인용 수 6

한 줄 요약

이 논문은 인간의 레이블링이 불가능한 실시간 비정적 환경에서 지속적으로 변화하는 레이블이 없는 데이터 스트림으로부터 새로운 이미지 클래스를 자율적으로 탐지하고 학습할 수 있는 비지도 개방세계 학습 프레임워크를 제안한다. 비지도 특징 표현을 활용하고 새로운 평가 지표를 도입함으로써, 이 방법은 실시간에서 강건하고 확장 가능한 학습을 달성한다.

ABSTRACT

Open-world learning is a problem where an autonomous agent detects things that it does not know and learns them over time from a non-stationary and never-ending stream of data; in an open-world environment, the training data and objective criteria are never available at once. The agent should grasp new knowledge from learning without forgetting acquired prior knowledge. Researchers proposed a few open-world learning agents for image classification tasks that operate in complex scenarios. However, all prior work on open-world learning has all labeled data to learn the new classes from the stream of images. In scenarios where autonomous agents should respond in near real-time or work in areas with limited communication infrastructure, human labeling of data is not possible. Therefore, supervised open-world learning agents are not scalable solutions for such applications. Herein, we propose a new framework that enables agents to learn new classes from a stream of unlabeled data in an unsupervised manner. Also, we study the robustness and learning speed of such agents with supervised and unsupervised feature representation. We also introduce a new metric for open-world learning without labels. We anticipate our theories and method to be a starting point for developing autonomous true open-world never-ending learning agents.

연구 동기 및 목표

• 실시간 및 저대역폭 환경에서 감독 학습 기반 개방세계 학습의 확장성 한계를 해결하기 위해.
• 사전 지식이나 인간에 의한 레이블링 없이 레이블이 없는 데이터 스트림으로부터 새로운 클래스를 학습할 수 있는 자율적 에이전트를 가능하게 하기 위해.
• 이전에 습득한 지식을 상실하는 치명적인 망각을 방지하는 강건하고 효율적인 학습 메커니즘을 개발하기 위해.
• 레이블이 없는 개방세계 학습에 특화된 새로운 평가 지표를 도입하기 위해.
• 비지도 및 감독 학습 기반 특징 표현이 개방세계 환경에서 학습 속도와 강건성 측면에서 어떻게 비교되는지 분석하기 위해.

제안 방법

• 프레임워크는 새로운 클래스가 예측 불가능하게 나타나는 영구적이고 비정적 데이터 스트림에서 작동한다.
• 클래스 레이블이 필요 없이 레이블이 없는 이미지 데이터로부터 표현을 추출하기 위해 비지도 특징 학습을 활용한다.
• 기본 진술 레이블이 없는 상황에서 개방세계 학습 성능을 평가하기 위해 새로운 지표를 도입한다.
• 에이전트는 클러스터링 또는 임베딩 기반 탐지 기반 메커니즘을 통해 지속적으로 새로운 클래스를 탐지하고 통합한다.
• 치명적인 망각을 방지하기 위해 정규화 또는 재생 메커니즘을 통해 지식의 안정성을 유지한다.
• 학습 효율성과 강건성의 비교를 위해 비지도 및 감독 학습 기반 특징 표현을 모두 사용하여 방법을 평가한다.

실험 결과

연구 질문

• RQ1 실시간 스트리밍 환경에서 레이블이 없는 데이터에 의존하지 않고 개방세계 학습을 효과적으로 달성할 수 있는가?
• RQ2 레이블 부족 환경에서 비지도 특징 표현은 감독 학습 기반 표현에 비해 학습 속도와 강건성 측면에서 어떻게 비교되는가?
• RQ3 개방세계 학습에서 치명적인 망각의 영향은 무엇이며, 레이블이 없이 이를 어떻게 완화할 수 있는가?
• RQ4 레이블이 가용하지 않은 상황에서 개방세계 학습을 평가하기 위한 신뢰할 수 있는 평가 지표를 어떻게 설계할 수 있는가?
• RQ5 제안된 프레임워크는 인간 간섭이 제한된 복잡한 실제 응용 분야로의 확장성을 갖출 수 있는가?

주요 결과

• 제안된 비지도 개방세계 학습 프레임워크는 사전 지식 없이도 레이블이 없는 데이터 스트림으로부터 새로운 이미지 클래스를 성공적으로 탐지하고 학습한다.
• 이 방법은 지식의 안정성을 유지하면서 비정적 환경에서도 강건한 성능을 보이며 치명적인 망각을 방지한다.
• 레이블이 부족한 환경에서 비지도 특징 표현은 감독 학습 기반 표현에 비해 더 빠른 학습과 적응을 가능하게 한다.
• 제안된 평가 지표는 기준 진술 레이블 없이도 개방세계 학습 성능을 신뢰성 있게 평가할 수 있는 방법을 제공한다.
• 이 프레임워크는 인간 레이블링이 불가능하거나 비현실적인 실시간, 확장 가능한 학습을 자율 시스템에서 가능하게 한다.
• 결과는 복잡하고 동적인 환경에서 진정으로 개방세계적, 영구적인 학습 에이전트를 개발하기 위한 기반을 마련한다.