[논문 리뷰] Online Continual Learning on a Contaminated Data Stream with Blurry Task Boundaries

Jihwan Bang, Hyunseo Koh외 4명|arXiv (Cornell University)|2022. 03. 29.

Machine Learning and Data Classification인용 수 7

한 줄 요약

이 논문은 노이즈가 섞이고 오염된 데이터 스트림, 특히 클래스가 겹치고 레이블이 신뢰할 수 없는 상황에서의 온라인 지속 학습을 위한 통합 프레임워크인 PuriDivER을 제안한다. 노이즈 인식 샘플링과 반감독 학습 기반의 강력한 학습을 통해 에피소딕 메모리 내에서 다양성과 순수성을 적응적으로 균형 잡고, CIFAR-10/100, mini-WebVision, Food-101N에서 다양한 노이즈 비율 조건에서도 최신 기준 성능을 달성한다.

ABSTRACT

Learning under a continuously changing data distribution with incorrect labels is a desirable real-world problem yet challenging. A large body of continual learning (CL) methods, however, assumes data streams with clean labels, and online learning scenarios under noisy data streams are yet underexplored. We consider a more practical CL task setup of an online learning from blurry data stream with corrupted labels, where existing CL methods struggle. To address the task, we first argue the importance of both diversity and purity of examples in the episodic memory of continual learning models. To balance diversity and purity in the episodic memory, we propose a novel strategy to manage and use the memory by a unified approach of label noise aware diverse sampling and robust learning with semi-supervised learning. Our empirical validations on four real-world or synthetic noise datasets (CIFAR10 and 100, mini-WebVision, and Food-101N) exhibit that our method significantly outperforms prior arts in this realistic and challenging continual learning scenario. Code and data splits are available in https://github.com/clovaai/puridiver.

연구 동기 및 목표

• 오염된 데이터 스트림과 희미한 작업 경계에서 클래스 분포가 겹치고 레이블이 노이즈가 섞인 현실적인 문제이지만 아직 탐색이 부족한 온라인 지속 학습에 대응하기 위해.
• 깨끗한 레이블과 분리된 클래스 집합을 전제로 하는 기존 지속 학습 방법의 한계를 극복하기 위해, 실세계 적용에 부적합한 가정을 피하기 위해.
• 레이블 노이즈 조건 하에서 에피소딕 메모리 내에서 다양성과 순수성을 동시에 증진하는 통합된 메모리 관리 및 학습 전략을 설계하기 위해.
• 노이즈 비율과 작업 진행 단계에 따라 다양성과 순수성 간의 트레이드오프를 동적으로 조정할 수 있는 적응형 균형 계수를 개발하기 위해.
• 클래스 겹침이 있는 더 현실적인 연속 학습 환경에서 실세계 및 합성 노이즈 데이터셋을 대상으로 방법을 검증하기 위해.

제안 방법

• 노이즈가 섞인 예측값과의 분포 유사도를 고려한 점수 함수를 정의하여, 레이블 순수성과 분포 유사도를 동시에 고려한 통합 메모리 샘플링 전략을 제안한다.
• 청소된 레이블과 신뢰할 수 없는 레이블을 모두 비라벨 데이터로 간주하여 학습하는 반감독 학습 기반의 강력한 학습 기법을 도입함으로써, 노이즈가 섞인 예시의 간섭을 줄인다.
• 메모리 샘플링에서 다양성과 순수성 간의 트레이드오프를 동적으로 조정하는 적응형 균형 계수 α를 활용하며, α ∈ (0, 0.5) 범위로 고노이즈 조건에서는 순수성을 우선시한다.
• 낮은 손실(순수성)과 높은 다양성을 확보하는 방식으로 메모리 구성 과정을 수행하며, 일致성 정규화를 통해 메모리 사용 시 강건성을 확보한다.
• 청결한 레이블에 대한 지도 학습과 신뢰할 수 없는 예측값에 대한 의사라벨링을 통합한 통합 학습 목표를 적용하여 일반화 성능과 노이즈에 대한 저항력을 향상시킨다.
• 에피소딕 메모리를 리플레이 외에도 일致성 기반 정규화에 활용하여, 모델 추론 및 학습 과정에서 다양성과 순수성을 동시에 강화한다.

실험 결과

연구 질문

• RQ1 온라인 지속 학습에서 레이블 노이즈 조건 하에서 에피소딕 메모리 내 다양성과 순수성 간의 트레이드오프가 모델 성능에 미치는 영향은 어떠한가?
• RQ2 노이즈가 섞이고 클래스가 겹치는 작업 경계 조건 하에서 통합 프레임워크가 메모리 샘플링 및 활용 시 다양성과 순수성을 효과적으로 균형 조절할 수 있는가?
• RQ3 적응형 균형 계수 α는 실세계 지속 학습 환경에서 다양한 노이즈 비율 조건에서 성능 향상에 어떻게 기여하는가?
• RQ4 지속 학습 과정에서 신뢰할 수 없는 레이블을 학습할 때, 의사라벨링 기반 반감독 학습이 얼마나 강건성을 향상시키는가?
• RQ5 제안된 방법은 실세계 및 합성 노이즈 데이터셋에서 기존 기법의 조합 대비 정확도와 효율성 측면에서 모두 슈퍼리어한 성능을 보이는가?

주요 결과

• PuriDivER는 대칭 레이블 노이즈(SYM-40%) 조건 하에서 CIFAR-10에서 최신 기준 정확도를 확보하며, 특히 고노이즈 비율 조건에서 기존 방법들을 크게 앞서며 성능을 높였다.
• SYM-60% 노이즈 조건 하에서 CIFAR-100에서 PuriDivER는 57.0%의 정확도를 달성하여, 다음으로 좋은 성능을 보인 GBS 방법(55.3%)을 크게 앞서며 심각한 레이블 오염 조건에서도 강건성을 입증했다.
• 적응형 균형 계수 전략은 모든 노이즈 수준에서 일관된 성능 향상을 보였으며, 시간이 지남에 따라 α 값이 동적으로 증가하여 후속 작업에서 다양성을 우선시하는 경향을 보였다.
• PuriDivER는 학습 시간과 정확도 사이에 유리한 트레이드오프를 확보하였으며, SPR보다는 시간 비용이 낮고, RSV 및 GBS보다는 정확도가 높아 온라인 배포에 적합하다.
• 제거 실험 결과 다양성과 순수성이 모두 핵심 요소임을 확인하였으며, α > 0.5로 설정할 경우 순수성에 대한 과도한 중시로 성능 저하가 발생함을 입증했다.
• Food-101N 및 mini-WebVision과 같은 실세계 데이터셋에서도 강력한 일반화 성능을 보이며, 합성 벤치마크를 넘어서는 실용성을 확인했다.