[논문 리뷰] Reliable Label Correction is a Good Booster When Learning with Extremely Noisy Labels

Kai Wang, Xiangyu Peng외 5명|arXiv (Cornell University)|2022. 04. 30.

Machine Learning and Data Classification인용 수 4

한 줄 요약

이 논문은 극단적인 레이블 노이즈 하에서 딥러닝 성능을 향상시키기 위해 신뢰할 수 있는 레이블 보정과 샘플 선택을 결합한 새로운 프레임워크 LC-Booster를 제안한다. 샘플 선택을 통해 정제된 클린 세트를 확보하여 정확한 레이블 보정을 가능하게 함으로써, LC-Booster는 클린 세트 크기를 확장하면서도 높은 레이블 정밀도를 유지하며, CIFAR-10에서 92.9%의 정확도와 CIFAR-100에서 48.4%의 정확도를 달성한다. 이는 90% 대칭 노이즈 조건에서 최신 기법들을 능가한다.

ABSTRACT

Learning with noisy labels has aroused much research interest since data annotations, especially for large-scale datasets, may be inevitably imperfect. Recent approaches resort to a semi-supervised learning problem by dividing training samples into clean and noisy sets. This paradigm, however, is prone to significant degeneration under heavy label noise, as the number of clean samples is too small for conventional methods to behave well. In this paper, we introduce a novel framework, termed as LC-Booster, to explicitly tackle learning under extreme noise. The core idea of LC-Booster is to incorporate label correction into the sample selection, so that more purified samples, through the reliable label correction, can be utilized for training, thereby alleviating the confirmation bias. Experiments show that LC-Booster advances state-of-the-art results on several noisy-label benchmarks, including CIFAR-10, CIFAR-100, Clothing1M and WebVision. Remarkably, under the extreme 90\% noise ratio, LC-Booster achieves 92.9\% and 48.4\% accuracy on CIFAR-10 and CIFAR-100, surpassing state-of-the-art methods by a large margin.

연구 동기 및 목표

• 기존의 샘플 선택 방법이 극단적인 레이블 노이즈 하에서 성능 저하가 발생하는 문제를 해결하기 위해, 클린 샘플 수가 효과적인 훈련을 위해 너무 적어지는 상황을 다루는 것.
• 샘플 선택 설정에서 레이블 보정을 신뢰성 있게 적용할 수 있는지 조사하여, 확인 편향을 유발하지 않으면서 클린 세트 크기를 확장할 수 있는지 확인하는 것.
• 샘플 선택과 레이블 보정을 동시에 활용하여 극단적인 노이즈 조건 하에서 모델의 일반화 성능을 향상시키는 프레임워크를 개발하는 것.
• 정제된 클린 세트 위에서 신뢰할 수 있는 레이블 보정을 적용할 경우, 외부 클린 앵커나 부트스트랩 기법 없이도 성능을 크게 향상시킬 수 있음을 입증하는 것.

제안 방법

• 프레임워크는 GMM 손실 기반 샘플 선택을 통해 클린 샘플과 노이즈가 섞인 샘플을 분리하기 전에 기본 패턴을 학습하는 웜업 단계를 거친다.
• 클린 샘플은 지도 학습 손실로 훈련되며, 노이즈가 섞인 샘플은 약한-약한 및 약한-강한 뷰 간의 일관성을 강제하기 위해 하이브리드 증강(H-Aug.) 전략을 사용하여 비지도 학습 방식으로 처리된다.
• 중간 훈련 단계에서 정확한 레이블 보정(ReCo)이 정제된 클린 세트에 훈련된 모델의 예측을 사용하여 클린 샘플과 노이즈가 섞인 샘플의 레이블을 수정한다.
• ReCo 메커니즘은 임계값을 적용한 신뢰도 점수를 사용하여 고정밀도 레이블 수정을 보장하며, 적절한 임계값 설정 하에서 레이블 정밀도에 대한 이론적 근거를 제공한다.
• 높이 정제된 클린 세트에 의존함으로써 확보된 신뢰할 수 있는 모델 예측을 통해 확인 편향을 방지한다.
• ReCo 이후에 클린 세트 크기가 동적으로 확장되어 고품질 훈련 샘플의 수가 크게 증가한다.

실험 결과

연구 질문

• RQ1 샘플 선택 프레임워크에서 레이블 보정을 신뢰성 있게 적용하여 오차 누적 없이 클린 세트 크기를 확장할 수 있는가?
• RQ2 샘플 선택과 레이블 보정을 융합하면 극단적인 레이블 노이즈(예: 90% 노이즈) 조건 하에서도 일반화 성능 향상에 기여하는가?
• RQ3 노이즈 수준이 증가함에 따라 LC-Booster의 성능이 최신 기법들과 비교해 어떻게 변화하는가, 특히 90%를 초월할 경우 어떻게 되는가?
• RQ4 정제된 클린 세트 위에서 레이블 보정의 정밀도를 이론적으로 보장할 수 있는가?
• RQ5 훈련 중에 레이블 보정을 한 번만 수행하는 것으로도 최적의 성능을 달성할 수 있는가?

주요 결과

• LC-Booster는 90% 대칭 레이블 노이즈 조건 하에서 CIFAR-10에서 92.9%의 테스트 정확도와 CIFAR-100에서 48.4%의 정확도를 달성하여 이전 최신 기법들을 크게 능가한다.
• 90% 대칭 노이즈 조건 하에서 LC-Booster의 재레이블링 정밀도는 90%를 초과하여 노이즈가 섞인 레이블을 정제하는 데서 뛰어난 능력을 입증한다.
• 레이블 보정 이후 LC-Booster의 클린 세트 크기가 크게 증가하여 DivideMix에 비해 큰 격차를 확보하며 성능 향상에 기여한다.
• LC-Booster는 훈련 전반에 걸쳐 클린 샘플 선택의 AUC가 더 높게 유지되어 기준 방법들보다 더 정확한 클린 샘플 식별 능력을 보여준다.
• 노이즈 비율이 90%에서 93%로 증가함에 따라 LC-Booster와 DivideMix 간의 성능 격차가 커지며, 극단적인 노이즈 조건 하에서도 뛰어난 강건성을 입증한다.
• 100번째 에포크에 레이블 보정을 한 번 수행하는 것으로도 충분하며, 추가 보정은 정확도 향상에 기여하지 않아 최적의 레이블 보정 타이밍을 확인할 수 있다.