[논문 리뷰] Continual Unsupervised Representation Learning

Dushyant Rao, Francesco Visin외 4명|arXiv (Cornell University)|2019. 10. 31.

Domain Adaptation and Few-Shot Learning인용 수 86

한 줄 요약

CURL은 작업-무관적, 비감독 학습 표현을 연속 학습 설정에서 작업을 추론하고, 용량을 동적으로 확장하며, 혼합 생성 재생을 사용하여 망각을 방지한다; MNIST와 Omniglot에서 경쟁력 있는 결과를 보였다.

ABSTRACT

Continual learning aims to improve the ability of modern learning systems to deal with non-stationary distributions, typically by attempting to learn a series of tasks sequentially. Prior art in the field has largely considered supervised or reinforcement learning tasks, and often assumes full knowledge of task labels and boundaries. In this work, we propose an approach (CURL) to tackle a more general problem that we will refer to as unsupervised continual learning. The focus is on learning representations without any knowledge about task identity, and we explore scenarios when there are abrupt changes between tasks, smooth transitions from one task to another, or even when the data is shuffled. The proposed approach performs task inference directly within the model, is able to dynamically expand to capture new concepts over its lifetime, and incorporates additional rehearsal-based techniques to deal with catastrophic forgetting. We demonstrate the efficacy of CURL in an unsupervised learning setting with MNIST and Omniglot, where the lack of labels ensures no information is leaked about the task. Further, we demonstrate strong performance compared to prior art in an i.i.d setting, or when adapting the technique to supervised tasks such as incremental class learning.

연구 동기 및 목표

• 작업 라벨과 경계가 알려지지 않은 비감독 지속적 학습을 다룬다.
• 감독없이 네트워크 내부에서 작업을 추론하는 모델을 개발한다.
• 일생에 걸쳐 새로운 개념을 포착하기 위해 동적 용량 확장을 가능하게 한다.
• 혼합 모델에 맞춘 생성 재생을 통해 재앙적 망각을 완화한다.

제안 방법

• 추정된 작업 y에 조건화된 가우시안 혼합(latent space) 공간을 갖는 변분 모델 CURL를 제안한다.
• 작업 추정을 위해 q(y|x)를 사용하고 잠재 표현을 위해 q(z|x,y)를 사용하며, p(z|y)와 p(x|z)를 생성 구성요소로 한다.
• y와 z에 대해 주변화하는 증거 하한(ELBO)으로 학습하며, 구성요소별 재구성과 KL 정규화 항을 포함한다.
• 모델링이 미흡한 샘플 버퍼가 임계치에 도달하면 새로운 구성요소로 혼합을 동적으로 확장하고, 가장 관련된 기존 구성요소에서 초기화한다.
• 구성요소에 대해 자기일관적 우선분포를 사용하여 실제 데이터와 모델의 스냅샷에서 생성된 데이터를 혼합해 망각을 방지하기 위해 혼합 생성 재생(MGR)을 적용한다.
• 레이블이 사용 가능해지는 시나리오를 위해 감독 손실을 선택적으로 도입하여 q(y|x)가 관찰된 y를 향하도록 한다.

실험 결과

연구 질문

• RQ1 비감독 지속적 학습이 작업 라벨이나 경계 없이도 작업 구조를 추론할 수 있는가?
• RQ2 동적 확장이 일생에 걸쳐 새로운 개념에 대한 용량을 효과적으로 할당하는가?
• RQ3 혼합 생성 재생이 비감독 지속 설정에서 재앙적 망각을 완화할 수 있는가?
• RQ4 표준 벤치마크에서 i.i.d. 및 감독 하에서의 적응에 있어 CURL은 기존 연구와 비교해 얼마나 경쟁력 있는가?

주요 결과

• CURL은 순차적이고 비감독적인 설정에서도 잃지 않고 의미 있는 클래스 판별 잠재 표현을 달성한다.
• 동적 확장과 MGR은 기준선과 비교해 군집 정확도를 크게 향상시키고 망각을 줄인다.
• 절제 실험에서 용량 확장과 MGR을 함께 사용하는 것이 더 나은 성능을 낳고, 확장을 하지 않으면 성능이 뚜렷이 떨어진다.
• CURL은 i.i.d. 설정에서 최첨단 방법과 경쟁력을 유지하고 감독적 증가 작업(splitMNIST)에 잘 적응한다.
• 연속 드리프트 상황에서 CURL은 견고한 성능을 유지하며 혼합 구성요소가 점진적 분포 변화에 매끄럽게 적응한다.