[논문 리뷰] Learning Not to Learn in the Presence of Noisy Labels

Liu Ziyin, Blair Chen외 5명|arXiv (Cornell University)|2020. 02. 16.

Machine Learning and Algorithms참고 문헌 33인용 수 17

한 줄 요약

이 논문은 노이즈 있는 레이블에서 학습을 회피하도록 돕는 새로운 손실 함수인 게임머니 손실(Gambler's Loss)을 소개한다. 이는 신경망의 견고성과 일반화 능력을 향상시킨다. 분석적 조기 정지 기준과 노이즈 비율에 민감하지 않은 하이퍼파라미터 스케줄링 히우리스틱을 제안하여, 다양한 레이블 오염 비율 하에서 MNIST, CIFAR-10, IMDB에서 최고 성능을 달성한다.

ABSTRACT

Learning in the presence of label noise is a challenging yet important task: it is crucial to design models that are robust in the presence of mislabeled datasets. In this paper, we discover that a new class of loss functions called the gambler's loss provides strong robustness to label noise across various levels of corruption. We show that training with this loss function encourages the model to "abstain" from learning on the data points with noisy labels, resulting in a simple and effective method to improve robustness and generalization. In addition, we propose two practical extensions of the method: 1) an analytical early stopping criterion to approximately stop training before the memorization of noisy labels, as well as 2) a heuristic for setting hyperparameters which do not require knowledge of the noise corruption rate. We demonstrate the effectiveness of our method by achieving strong results across three image and text classification tasks as compared to existing baselines.

연구 동기 및 목표

• 잘못된 예측이 포함된 데이터셋에서 딥 네ural 네트워크를 훈련시키는 데서 발생하는 일반화 능력 저하 문제를 해결하기 위해.
• 불확실하거나 손상된 샘플에서 학습을 회피하도록 모델을 유도하여 노이즈 있는 레이블을 기억하는 것을 방지하는 훈련 방법을 개발하기 위해.
• 검증 세트에 의존하지 않고 다양한 모델과 작업에 적용 가능한 실용적인 조기 정지 기준을 설계하기 위해.
• 레이블 노이즈 비율에 대한 사전 지식이 필요 없는 하이퍼파라미터 스케줄링 히우리스틱을 만들기 위해.
• 높은 수준의 레이블 오염 하에서 이미지 및 텍스트 분류 벤치마크에서 최고 성능을 달성하기 위해.

제안 방법

• 게임머니 손실 함수는 모델이 불확실할 경우 예측을 '기피'할 수 있도록 하는 도박 유사성에서 유도된다. 이는 노이즈 있는 레이블에 대한 의존도를 줄인다.
• 표준 크로스 엔트로피 손실을 수정하여, 저신뢰도 예측에 대해 기울기를 억제하는 임계값 메커니즘을 도입한다.
• 게임머니 손실의 이론적 동역학에서 유도된 분석적 조기 정지(Analytical Early Stopping, AES) 기준을 제안하여, 노이즈 있는 레이블의 기억을 방지하기 전에 훈련을 종료한다.
• 오염 비율에 대한 지식이 필요 없이 손실 스케일링을 자동으로 조정하는 동적 하이퍼파라미터 스케줄링 방법을 제안한다.
• 표준 아키텍처와 옵티마이저를 사용하여 이미지(MNIST, CIFAR-10) 및 텍스트(IMDB) 분류 작업에 이 방법을 적용한다.
• 다양한 노이즈 비율 하에서 최고 성능 기준 모델인 Co-teaching+ 및 일반화된 크로스 엔트로피(Lq)와의 비교를 통해 평가한다.

실험 결과

연구 질문

• RQ1 불확실한 샘플에서 학습을 기피하도록 유도하는 수정된 손실 함수가 딥 러닝 모델의 노이즈 레이블에 대한 견고성을 향상시킬 수 있는가?
• RQ2 게임머니 손실 함수가 노이즈 있는 레이블의 기억을 지연하거나 방지하는 훈련 궤적을 유도하는가?
• RQ3 손실 함수의 동역학에서 분석적 조기 정지 기준을 도출할 수 있는가? 이를 통해 검증 세트 없이 과적합을 방지할 수 있는가?
• RQ4 노이즈 오염 비율에 대한 사전 지식이 없이도 잘 작동하는 하이퍼파라미터 스케줄링 히우리스틱을 설계할 수 있는가?
• RQ5 제안된 방법이 높은 수준의 레이블 노이즈 하에서 다양한 이미지 및 텍스트 분류 작업에서 최고 성능을 달성하는가?

주요 결과

• 80%의 레이블 노이즈가 있는 MNIST에서, 자동 스케줄링을 적용한 게임머니 손실은 Co-teaching+보다 절대 정확도에서 30%포인트 높은 성능을 기록했다.
• 80%의 노이즈가 있는 CIFAR-10에서, 이 방법은 Co-teaching+보다 15%포인트 향상된 성능을 달성했다.
• 분석적 조기 정지(AES) 방법은 검증 기반 조기 정지 대비 훈련 시간을 최대 10배 단축시키면서 MNIST에서 테스트 정확도를 최대 70% 향상시켰다.
• 제안된 하이퍼파라미터 스케줄링 히우리스틱은 평가된 12개 설정 중 11개에서 일반화된 크로스 엔트로피(Lq)를 능가했으며, 특히 높은 노이즈 비율에서 두각을 나타냈다.
• 진짜 노이즈 비율을 알지 못해도, MNIST, CIFAR-10, IMDB 세 벤치마크에서 모두 최고 성능을 기록했다.
• 게임머니 손실은 강력한 일반화 능력을 보였으며, 노이즈 비율이 높아질수록 성능 향상이 커져 극단적인 레이블 오염에 대한 견고성을 시사했다.