[논문 리뷰] On the Stability-Plasticity Dilemma of Class-Incremental Learning

Dongwan Kim, Bohyung Han|arXiv (Cornell University)|2023. 04. 04.

Domain Adaptation and Few-Shot Learning인용 수 5

한 줄 요약

이 논문은 단계별로 클래스가 증가하는 학습(CIL)에서 안정성-유연성 갈등을 분석함으로써 특징 표현의 변화를 조사한다. 대부분의 CIL 방법이 안정성을 우선시하여 초기 학습 이후 특징 표현 갱신이 최소한임을 드러낸다. 저자들은 특징 표현 분석에 기반한 두 가지 단순한 알고리즘을 제안하며, 지속적인 표현 학습 향상을 위한 필요성을 강조하고, 현재 평가 지표의 타당성을 도전한다.

ABSTRACT

A primary goal of class-incremental learning is to strike a balance between stability and plasticity, where models should be both stable enough to retain knowledge learned from previously seen classes, and plastic enough to learn concepts from new classes. While previous works demonstrate strong performance on class-incremental benchmarks, it is not clear whether their success comes from the models being stable, plastic, or a mixture of both. This paper aims to shed light on how effectively recent class-incremental learning algorithms address the stability-plasticity trade-off. We establish analytical tools that measure the stability and plasticity of feature representations, and employ such tools to investigate models trained with various algorithms on large-scale class-incremental benchmarks. Surprisingly, we find that the majority of class-incremental learning algorithms heavily favor stability over plasticity, to the extent that the feature extractor of a model trained on the initial set of classes is no less effective than that of the final incremental model. Our observations not only inspire two simple algorithms that highlight the importance of feature representation analysis, but also suggest that class-incremental learning approaches, in general, should strive for better feature representation learning.

연구 동기 및 목표

• 현대의 CIL 알고리즘이 특징 표현에서 안정성과 유연성을 얼마나 효과적으로 균형 잡는지 조사하기.
• CIL 벤치마크에서의 성공이 안정성, 유연성, 또는 둘의 조합 때문인지 밝혀내기.
• 현재 평가 지표의 한계를 폭 드러내어 CIL 연구에서 진전이 잘못 이끌릴 수 있음을 폭 드러내기.
• 특징 표현 동역학의 경험적 분 析를 통해 개선된 CIL 방법을 유도하기.
• 고정되거나 최소한 갱신되는 특징에 의존하는 것보다 더 강력한 지속적인 표현 학습을 주장하기.

제안 방법

• 저자들은 중심 커널 일치(CKA)와 특징 분포 이동의 t-SNE 시각화를 사용하여 안정성을 측정하기 위한 분석 도구를 설계하였다.
• 유연성은 각 단계에서 분류기 재학습을 통해 갱신된 특징 표현에서의 성능 향상을 측정함으로써 평가되었다.
• 저자들은 B500-5step과 같은 대규모 벤치마크에서 다양한 CIL 알고리즘을 사용해 훈련한 모델을 분석하여 단계별로 특징 추출기 성능를 비교하였다.
• 초기 데이터셋에서만 훈련된 특징 추출기를 고정하고 분류기만 훈련하는 'Exploit' 방법을 도입하여, 특징 적응 없이도 높은 성능을 달성함을 보였다.
• 단계적 환경에서 특징 표현 학습을 향상시키기 위해 동적 확장 표현(DER)의 수정 버전을 제안하였다.
• 작업 유사도와 사전학습 설정의 다양성에 따른 분석을 통해 발견의 타당성을 검증하였다.

실험 결과

연구 질문

• RQ1 현대의 CIL 알고리즘이 단계적 학습 단계를 거치며 특징 표현을 얼마나 갱신하는가?
• RQ2 CIL 방법의 성공은 높은 안정성, 높은 유연성, 또는 둘의 균형 때문인가?
• RQ3 평균 단계별 정확도 및 최종 정확도와 같은 현재 평가 지표는 특징 학습에서 실제 유연성과 안정성을 얼마나 잘 반영하는가?
• RQ4 고정된 특징 추출기를 가진 모델이 실질적으로 최첨단 CIL 방법을 초월할 수 있는가?
• RQ5 특징 표현 학습에서 안정성과 유연성을 더 잘 균형 잡는 아키텍처나 학습 전략은 무엇인가?

주요 결과

• 대부분의 CIL 알고리즘은 최소한의 유연성을 보이며, 첫 번째 데이터셋에서의 초도 학습 이후 특징 표현 갱신이 거의 없거나 전혀 없다.
• 초기 클래스 세트에서만 훈련된 모델(M₀)의 특징 추출기는 최종 단계 모델(M₅)과 비슷하거나 더 잘 수행함을 보여, 특징 적응이 열악함을 시사한다.
• 'Exploit' 방법은 특징 추출기를 고정하고 분류기만 훈련함으로써 평균 단계별 정확도와 최종 ImageNet 정확도에서 모든 SOTA CIL 방법 중 유일하게 빼고 나머지 전부를 앞서는 성능을 보였다.
• 평균 단계별 정확도 및 최종 정확도와 같은 현재 지표들은 진정한 유연성을 반영하지 못해 CIL 연구에서 잘못된 진전의 느낌을 줌.
• 이 연구는 안정성에 대한 체계적 과중함이 유연성의 결여로 이어지며, 대부분의 CIL 방법이 시간이 지남에 따라 새로운 표현을 의미 있게 학습하지 못함을 드러냄.
• 연구 결과는 현재 평가 체계가 오해의 소지가 있으며, 향후 CIL 연구는 더 강력하고 지속적으로 갱신되는 특징 표현 학습을 우선시해야 한다고 시사한다.