[논문 리뷰] Continual Classification Learning Using Generative Models

Frantzeska Lavda, Jason Ramapuram외 2명|arXiv (Cornell University)|2018. 10. 24.

Domain Adaptation and Few-Shot Learning참고 문헌 11인용 수 17

한 줄 요약

이 논문은 생성 모델을 사용한 지속적 분류 학습 방법을 제안하며, 변분 자동차오디터(VAE) 프레임워크를 활용한 학생-교수 아키텍처를 통해 치명적인 잊음(catastrophic forgetting)을 방지한다. 모델은 과거 작업의 합성 데이터를 교수가 생성하여 현재 작업 학습에 증강함으로써, 과거 데이터나 모델을 저장하지 않고도 동시 생성 및 분류 학습을 가능하게 하며, 순차적인 작업에서 안정적인 성능을 달성한다. 이는 순열 MNIST 및 패션MNIST 벤치마크에서 검증되었다.

ABSTRACT

Continual learning is the ability to sequentially learn over time by accommodating knowledge while retaining previously learned experiences. Neural networks can learn multiple tasks when trained on them jointly, but cannot maintain performance on previously learned tasks when tasks are presented one at a time. This problem is called catastrophic forgetting. In this work, we propose a classification model that learns continuously from sequentially observed tasks, while preventing catastrophic forgetting. We build on the lifelong generative capabilities of [10] and extend it to the classification setting by deriving a new variational bound on the joint log likelihood, $\log p(x; y)$.

연구 동기 및 목표

• 지속적 학습을 위한 분류 작업에서 치명적인 잊음을 해결하기 위해.
• 이전 데이터나 작업별 모델을 저장하지 않고도 지속적 학습을 가능하게 하기 위해.
• 순차적 학습 환경에서 생성 재구성과 분류 분류를 동시에 최적화하기 위해.
• 과거 작업의 지식을 유지하기 위해 생성 모델링을 활용하는 방법을 개발하기 위해.
• 과거 분포의 압축된 요약만을 사용하여 순차적 작업 간에 안정적인 성능을 달성하기 위해.

제안 방법

• 입력 $x$ 와 레이블 $y$ 를 위한 공동 잠재 변수 모델을 사용한 변분 자동차오디터(VAE)를 적용하며, $p(x,y,z) = p(x|z)p(y|z)p(z)$ 로 인수분해된다.
• 로그 $p(x,y)$ 에 대한 새로운 변분 경계를 유도하며, 이는 재구성에 대한 ELBO와 잠재 공간 상의 분류 손실으로 분해된다.
• 학생-교수 정규화 프레임워크를 도입한다: 학생은 현재 데이터와 교수로부터 생성된 데이터를 학습하며, 교수 모델은 과거 작업 분포를 요약한다.
• 손실 함수에는 이전 작업의 사후 표현을 유지하기 위한 KL 발산 항과 생성된 데이터와 일치하는 잠재 표현을 정렬하기 위한 음성 정보 수익 정규화 항이 포함된다.
• 과거 데이터나 모델을 저장하지 않고도 교수 모델을 통해 과거 작업 샘플을 생성함으로써, 엄격한 메모리 제약 조건 하에서도 지속적 학습이 가능하다.
• 초기 정지 기법을 사용한 미니배치 확률적 경사 하강법을 통해 목적 함수를 종단 간 최적화한다.

실험 결과

연구 질문

• RQ1 생성 모델이 치명적인 잊음을 방지하면서 지속적 분류 학습에 효과적으로 적응할 수 있는가?
• RQ2 압축된 교수 모델이 지속적 학습에서 과거 데이터나 모델을 저장할 필요성을 얼마나 대체할 수 있는가?
• RQ3 재구성과 분류 손실의 동시 최적화가 순차적 작업에서의 성능에 어떤 영향을 미치는가?
• RQ4 제안된 방법이 과거 작업을 잊지 않고도 다수의 순차적 작업에서 높은 정확도와 낮은 재구성 오차를 유지하는가?
• RQ5 기본 모델인 VAE에 분류기 부착 및 EWC와 비교했을 때, 잊음과 정확도 유지 측면에서 제안 방법은 어떻게 성능을 내는가?

주요 결과

• 제안된 CCL-GM 모델은 순열 MNIST 실험에서 다수의 순차적 작업을 거친 후에도 모든 작업의 평균 분류 정확도를 높게 유지한다.
• 모델은 모든 학습된 작업에서 낮은 평균 음성 재구성 ELBO를 달성하여 강력한 생성 성능을 나타낸다.
• 반면, 기본 VAE에 분류기를 부착한 vae-cl은 첫 번째 순열 작업으로 전환할 때 성능이 급격히 하락하여 심각한 잊음을 보였다.
• EWC 기반 모델은 vae-cl보다는 덜 떨어지지만 여전히 심각한 잊음을 보이며, 데이터 증강 없이 정규화만으로는 한계가 있음을 시사한다.
• MNIST, 패션MNIST, 그리고 순열 MNIST 작업을 포함한 3개 작업 시퀀스에서 CCL-GM은 분류 정확도와 재구성 품질 모두에서 두 기준 모델을 능가한다.
• 교수 모델을 통해 과거 작업 데이터를 생성함으로써 치명적인 잊음을 효과적으로 완화하여, 과거 데이터나 모델에 접근하거나 저장하지 않고도 지속적 학습이 가능하다.