[논문 리뷰] Does Continual Learning = Catastrophic Forgetting?

Anh Thai, Stefan Stojanov외 2명|arXiv (Cornell University)|2021. 01. 18.

Domain Adaptation and Few-Shot Learning참고 문헌 67인용 수 4

한 줄 요약

이 논문은 연속 학습이 본질적으로 치명적 망각을 유발한다는 가정을 도전하며, 일부 작업이 점진적으로 학습될 때 망각을 겪지 않는다는 것을 보여줌으로써 이를 뒷받 드리고 있다. YASS는 클래스 증분 학습에서 최고 성능을 달성하는 단순하면서도 효과적인 알고리즘을 제안하며, 지속적인 표현 학습의 이점과 망각 역학에 대한 통합적 증거를 제공한다.

ABSTRACT

Continual learning is known for suffering from catastrophic forgetting, a phenomenon where earlier learned concepts are forgotten at the expense of more recent samples. In this work, we challenge the assumption that continual learning is inevitably associated with catastrophic forgetting by presenting a set of tasks that surprisingly do not suffer from catastrophic forgetting when learned continually. The robustness of these tasks leads to the potential of having a proxy representation learning task for continual classification. We further introduce a novel yet simple algorithm, YASS that achieves state-of-the-art performance in the class-incremental categorization learning task and provide an insight into the benefit of learning the representation continuously. Finally, we present converging evidence on the forgetting dynamics of representation learning in continual models. The codebase, dataset, and pre-trained models released with this article can be found at this https URL.

연구 동기 및 목표

• 연속 학습이 치명적 망각을 피할 수 없다는 널리 퍼진 믿음을 도전하기 위해.
• 연속 학습 중 망각을 겪지 않는 작업을 식별하고 분석하기 위해.
• 클래스 증분 학습에서 최고 성능을 내는 새로운 알고리즘 YASS를 개발하기 위해.
• 연속 학습 환경에서 지속적인 표현 학습의 이점에 대한 통찰을 제공하기 위해.
• 연속 표현 학습 모델에서 망각 역학에 대한 통합적 증거를 제공하기 위해.

제안 방법

• 저자는 연속 학습 중 치명적 망각에 강건한 작업을 설계하여 표현 학습의 대리 지표로 활용한다.
• 저자들은 점진적 작업 학습 중에 지속적으로 특징을 업데이트함으로써 표현 학습을 향상시키는 단순한 알고리즘인 YASS를 도입한다.
• YASS는 메모리 재생 기법과 특징 분산 기반 기법을 활용하여 이전 작업의 지식을 유지한다.
• 이 방법은 클래스 증분 분류 벤치마크에서 평가되어 기존 방법들보다 뛰어난 성능을 보였다.
• 저자들은 수렴 분석과 표현 변화의 시각화를 통해 망각 역학을 분석하였다.
• 재현 가능성과 향후 연구를 지원하기 위해 공개된 코드베이스, 데이터셋, 사전 학습 모델이 제공되었다.

실험 결과

연구 질문

• RQ1 일부 작업 설정에서는 연속 학습이 치명적 망각 없이 이루어질 수 있는가?
• RQ2 어떤 특성들이 연속 학습 중 망각에 저항하는 데 기여하는가?
• RQ3 지속적인 표현 학습은 점진적 학습에서 모델 성능에 어떻게 영향을 미치는가?
• RQ4 연속 표현 학습 모델에서 망각의 역학은 어떠한가?
• RQ5 YASS와 같은 단순한 알고리즘이 클래스 증분 학습에서 최고 성능을 낼 수 있는가?

주요 결과

• 저자들은 연속적으로 학습될 때 치명적 망각을 겪지 않는 특정 작업을 식별하여, 망각이 필연적이라는 가정을 도전하였다.
• YASS는 클래스 증분 분류 학습에서 최고 성능을 달성하여 기존 방법들을 능가하였다.
• 결과는 지속적인 표현 학습이 점진적 설정에서 모델의 강건성과 일반화 능력을 크게 향상시킨다는 것을 보여주었다.
• 다양한 분석에서 유도된 통합적 증거는 연속 학습 모델의 망각 역학에 일관된 패턴을 드러냈다.
• 공개된 코드베이스, 데이터셋, 사전 학습 모델은 향후 연속 학습 분야의 연구에 소중한 자원이 되었다.