[논문 리뷰] Continual Feature Selection: Spurious Features in Continual Learning

Timothée Lesort|arXiv (Cornell University)|2022. 03. 02.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 지속적 학습에서 유사한 특징과 局소 유사한 특징을 조사하며, 데이터 분포의 변화와 제한된 데이터 접근으로 인해 모델이 일반화되지 않는 특징에 의존하는 경향이 있음을 보여준다. 성능 저하의 원인이 치명적인 잊음뿐 아니라 局소 유사한 특징에 대한 과적합에서 기인한다는 점을 밝히며, 이 문제를 완화하기 위해 리플레이 기반 방법을 제안한다.

ABSTRACT

Continual Learning (CL) is the research field addressing learning without forgetting when the data distribution is not static. This paper studies spurious features' influence on continual learning algorithms. We show that continual learning algorithms solve tasks by selecting features that are not generalizable. Our experiments highlight that continual learning algorithms face two related problems: (1) spurious features and (2) local spurious features. The first one is due to a covariate shift between training and testing data, while the second is due to the limited access to data at each training step. We study (1) through a consistent set of continual learning experiments varying spurious correlation amount and data distribution support. We show that (2) is a major cause of performance decrease in continual learning along with catastrophic forgetting. This paper presents a different way of understanding performance decrease in continual learning by highlighting the influence of (local) spurious features in algorithms capabilities.

연구 동기 및 목표

• 유사한 특징(일반화되지 않는 특징와 레이블 간의 상관관계)이 지속적 학습 알고리즘에 미치는 영향을 조사하는 것.
• 지속적 학습에서 발생하는 새로운 문제인 局소 유사한 특징을 특정하고 분석하는 것 — 각 학습 단계에서 데이터 접근이 불완전하여 발생한다.
• 기존의 지속적 학습 방법, 특히 재생 기반 방법이 유사한 특징과 局소 유사한 특징의 부정적 영향을 효과적으로 완화할 수 있는지 평가하는 것.
• 지속적 학습에 맞게 조정된 새로운 Out-of-Distribution (OOD) 일반화 방법을 제안하고, 새로운 벤치마크에서 성능을 평가하는 것.
• 지속적 학습에서의 성능 저하가 치명적인 잊음 때문이 아니라 특징 선택 오류 때문임을 재정의하는 것.

제안 방법

• 제어된 데이터 분포 변화를 통해 유사한 상관관계를 체계적으로 연구하기 위해 색상 MNIST를 영감으로 삼은 새로운 지속적 학습 벤치마크인 SpuriousCIFAR2를 제안한다.
• 학습 및 테스트 데이터 분포 간의 공변량 변화를 시뮬레이션하기 위해 색상 특징을 유사한 특징으로 사용하는 이진 분류 설정을 채택한다.
• 지속적 학습에 적합하게 수정된 OOD 일반화 방법을 도입하여 불변의 비유사 특징을 학습하고자 한다.
• 성능 비교와 특징 선택의 영향을 분리하기 위해 단일 헤드 및 다중 헤드 분류기 설정을 사용한다.
• 가중치 정규화 유무를 고려한 선형 및 평균층 분류기를 사용하여, 성능 격차의 원인이 특징 선택 편향인지, 노름 불균형인지 평가한다.
• 재생 기반 지속적 학습 방법을 적용하여 각 작업 간에 i.i.d. 데이터 분포를 시뮬레이션함으로써 지역적 유사한 특징을 학습할 위험을 줄인다.

실험 결과

연구 질문

• RQ1 지속적 학습 알고리즘이 학습 및 테스트 데이터 간의 공변량 변화로 인해 유사한 특징에 과적합하는 정도는 어느 정도인가?
• RQ2 지역적 유사한 특징(특정 작업 내에서 레이블과 상관관계가 있지만 전체 시나리오에서는 그렇지 않은 특징)이 지속적 학습 성능에 미치는 영향은 무엇인가?
• RQ3 표준 지속적 학습 방법인 재생 기반 방법이 유사한 특징과 지역적 유사한 특징의 부정적 영향을 효과적으로 완화할 수 있는가?
• RQ4 지속적 학습에서의 성능 저하의 주요 원인이 치명적인 잊음인지, 아니면 나쁜 특징 선택 결정(예: 지역적 유사한 특징에 의존하는 것)이 중요한 역할을 하는가?
• RQ5 OOD 일반화 기법을 지속적 학습에 적응시켜 효과적으로 적용할 수 있는가? 이는 유사한 특징에 대한 강건성을 향상시킬 수 있는가?

주요 결과

• 지속적 학습 모델은 학습 데이터에서는 레이블과 상관관계가 있지만 테스트 데이터에서는 그렇지 않은 유사한 특징에 의존하는 경우가 빈번히 발생하며, 이는 일반화 성능을 떨어뜨린다.
• 선형층에서는 단일 헤드와 다중 헤드 분류기 간의 성능 격차가 평균층보다 크게 나타나며, 이는 성능 저하의 원인이 모델 아키텍처가 아니라 특징 선택 편향임을 시사한다.
• 사전 학습된 모델도 지역적 유사한 특징 문제를 완화하지 못하며, 강력한 특징 추출기만으로는 강건한 지속적 학습이 불가능하다는 것을 보여준다.
• 리플레이 방법은 작업 간에 i.i.d. 데이터 분포를 시뮬레이션함으로써 지역적 유사한 특징을 학습할 위험을 효과적으로 줄인다.
• 지속적 학습에서의 성능 저하가 치명적인 잊음 때문이라는 것뿐 아니라 지역적 유사한 특징에 대한 과적합으로 인해 심각하게 악화됨을 확인했다.
• 이 연구는 지역적 유사한 특징이 치명적인 잊음과 동등한 핵심 과제임을 규명하며, 단순한 기억 보존을 넘어서 특징 선택을 우선시하는 새로운 방법의 필요성을 제기한다.