[논문 리뷰] Confidence Adaptive Regularization for Deep Learning with Noisy Labels

Yangdi Lu, Bo Yang외 1명|arXiv (Cornell University)|2021. 08. 18.

Machine Learning and Data Classification참고 문헌 53인용 수 7

한 줄 요약

이 논문은 예측 신뢰도를 추정하는 지표 브랜치를 도입하여 노이즈가 있는 레이블 하에서 딥 러닝의 강건성을 향상시키는 새로운 방법인 신뢰도 적응 정규화(CAR)를 제안한다. 이 방법은 신뢰도 인식 손실과 보조 정규화를 사용하여 잘못 레이블링된 샘플의 기억화를 억제하며, 다양한 노이즈 설정에서 CIFAR-10, CIFAR-100, WebVision, Clothing1M에서 최신 기준 성능을 달성한다.

ABSTRACT

Recent studies on the memorization effects of deep neural networks on noisy labels show that the networks first fit the correctly-labeled training samples before memorizing the mislabeled samples. Motivated by this early-learning phenomenon, we propose a novel method to prevent memorization of the mislabeled samples. Unlike the existing approaches which use the model output to identify or ignore the mislabeled samples, we introduce an indicator branch to the original model and enable the model to produce a confidence value for each sample. The confidence values are incorporated in our loss function which is learned to assign large confidence values to correctly-labeled samples and small confidence values to mislabeled samples. We also propose an auxiliary regularization term to further improve the robustness of the model. To improve the performance, we gradually correct the noisy labels with a well-designed target estimation strategy. We provide the theoretical analysis and conduct the experiments on synthetic and real-world datasets, demonstrating that our approach achieves comparable results to the state-of-the-art methods.

연구 동기 및 목표

• 학습 중에 깨끗한 샘플보다 잘못 레이블링된 샘플을 기억하는 딥 네ural 네트워크의 문제를 해결하여 모델의 일반화 성능을 떨어뜨리는 것을 방지한다.
• 깨끗한 샘플이 잘못 레이블링된 샘플보다 먼저 학습되는 초기 학습 현상을 활용하여 강건한 훈련을 이끌어내는 데 목적이 있다.
• 고정된 손실 보정이나 샘플 선택에 의존하지 않고, 신뢰도 추정을 통해 잘못 레이블링된 샘플을 동적으로 식별하고 가중치를 낮추는 방법을 개발한다.
• 깨끗한 샘플과 노이즈가 있는 샘플을 명시적으로 분리하는 새로운 신뢰도 적응 손실과 보조 정규화를 통해 모델의 강건성을 향상시킨다.
• 청정 레이블이 필요 없이도 훈련 중 모델 예측에서 목표 확률을 추정하여 효과적인 레이블 보정을 가능하게 한다.

제안 방법

• 각 입력 샘플에 대한 신뢰도 점수를 예측하기 위해 메인 모델에 지표 브랜치를 도입하여 깨끗한 샘플과 잘못 레이블링된 샘플을 구분한다.
• 정확히 레이블링된 샘플에 대해 높은 신뢰도를, 잘못 레이블링된 샘플에 대해 낮은 신뢰도를 유도하는 신뢰도 적응 손실(CAL)을 설계한다.
• 잘못 레이블링된 샘플에 대해 추가로 페널티를 주기 위해 낮은 신뢰도와 높은 예측 분산을 유도하는 보조 정규화 항(CAR)을 제안한다.
• 초기 훈련 동안 노이즈가 있는 레이블을 모델 예측에서 유도된 소프트 의사 레이블로 대체하는 동적 목표 추정 전략을 구현하여 강건성을 향상시킨다.
• 의사 레이블의 노이즈를 줄이고 안정성을 높이기 위해 모멘텀 기반 이동 평균을 사용하여 목표 추정을 안정화시킨다.
• 교차 엔트로피, CAL, CAR를 조합한 복합 손실을 사용하여 하이퍼파라미터를 노이즈 수준과 데이터셋 난이도에 맞게 조정하여 모델을 훈련한다.

실험 결과

연구 질문

• RQ1 초기 훈련 단계에서 레이블 품질에 대한 사전 지식 없이도 신뢰도 추정이 잘못 레이블링된 샘플을 효과적으로 식별하고 억제할 수 있는가?
• RQ2 고도의 레이블 노이즈 하에서 기존의 강건한 훈련 방법과 비교해 본다면 제안된 신뢰도 적응 정규화(CAR)는 일반화 성능에서 어떤가?
• RQ3 직접 노이즈가 있는 레이블을 사용하거나 시간적 앙상블을 사용하는 것과 비교해 동적 목표 추정 전략이 모델 성능 향상에 얼마나 기여하는가?
• RQ4 이 방법은 하이퍼파라미터 설정에 얼마나 민감한가? 다양한 데이터셋과 노이즈 수준에서 강건성을 확보하기 위해 어떤 설정이 필요한가?
• RQ5 CAR의 보조 정규화 항은 노이즈 레이블의 영향을 완화하는 데 이론적·실증적으로 어떤 우위를 제공하는가?

주요 결과

• CAR는 대칭 노이즈가 40%인 CIFAR-10에서 93.49% ± 0.07의 정확도, 대칭 노이즈가 80%인 경우 38.24% ± 0.55의 정확도를 기록하여 CE 및 기타 베이스라인을 초월한다.
• 대칭 노이즈가 80%인 CIFAR-100에서 CAR는 38.24%의 정확도를 기록하여, 목표 추정 없이 CAR를 사용한 경우(31.33% ± 0.38)와 시간적 앙상블(10.28% ± 1.67)보다 뚜렷이 뛰어나다.
• 동적 목표 추정 전략을 사용한 방법은 직접 노이즈가 있는 레이블을 사용하는 것보다 성능 향상을 이룬다. 동일한 전략을 사용한 CE는 40% 비대칭 노이즈에서 CIFAR-10에서 92.64%의 정확도를 기록하지만, 전반적으로 CAR가 CE를 능가한다.
• 절단 실험 결과, 제안된 목표 추정 전략을 사용한 CAR는 모든 데이터셋과 노이즈 유형에서 시간적 앙상블이나 추정 없이 사용하는 것과 비교해 일관되게 뛰어난 성능을 보였다.
• 하이퍼파라미터 민감도 분석 결과, λ, β, E_c, α, δ의 중간 수준의 변동에는 견고하게 유지되며, 파rameters가 극단적인 값으로 설정될 경우에만 성능 저하가 발생한다.
• 이론적 분석을 통해 CAL과 CAR가 잘못 레이블링된 샘플의 기울기를 중화시키면서도 깨끗한 샘플의 기울기 우세성을 유지함으로써 안정적이고 강건한 최적화를 보장함을 확인했다.