[논문 리뷰] Two Wrongs Don't Make a Right: Combating Confirmation Bias in Learning with Label Noise

Mingcai Chen, Hao Cheng외 4명|arXiv (Cornell University)|2021. 12. 06.

Machine Learning and Data Classification인용 수 7

한 줄 요약

이 논문은 두 모델의 공동 학습 프레임워크를 통해 신뢰도 추정된 노이즈 있는 레이블과 가짜 레이블을 동적으로 조합함으로써 확증 편향과 레이블 노이즈를 완화하는 하이브리드 방법인 Robust Label Refurbishment (Robust LR)을 제안한다. 이는 신뢰도 인식 기반의 증강에 강건한 훈련을 통해 레이블을 공동으로 개선하고 오류 누적을 줄임으로써 CIFAR-10의 합성 노이즈와 Mini-WebVision, ANIMAL-10N과 같은 실제 세계 데이터셋에서 최신 기술 수준(SOTA)의 성능을 달성한다.

ABSTRACT

Noisy labels damage the performance of deep networks. For robust learning, a prominent two-stage pipeline alternates between eliminating possible incorrect labels and semi-supervised training. However, discarding part of noisy labels could result in a loss of information, especially when the corruption has a dependency on data, e.g., class-dependent or instance-dependent. Moreover, from the training dynamics of a representative two-stage method DivideMix, we identify the domination of confirmation bias: pseudo-labels fail to correct a considerable amount of noisy labels, and consequently, the errors accumulate. To sufficiently exploit information from noisy labels and mitigate wrong corrections, we propose Robust Label Refurbishment (Robust LR) a new hybrid method that integrates pseudo-labeling and confidence estimation techniques to refurbish noisy labels. We show that our method successfully alleviates the damage of both label noise and confirmation bias. As a result, it achieves state-of-the-art performance across datasets and noise types, namely CIFAR under different levels of synthetic noise and Mini-WebVision and ANIMAL-10N with real-world noise.

연구 동기 및 목표

• 이중 단계 레이블 노이즈 학습 파이프라인의 한계를 해결하기 위해, 유용한 정보를 가진 노이즈 있는 레이블을 기각하고 확증 편향에 시달리는 문제를 해결하고자 한다.
• 반감성 학습에서 잘못된 가짜 레이블이 시간이 지남에 따라 오류를 강화하는 확증 편향을 식별하고 완화하고자 한다.
• 신뢰도 추정과 가짜 레이블링을 통해 노이즈 있는 레이블을 동적으로 개선함으로써 이를 최대한 활용하는 방법을 개발하고자 한다.
• 대칭적, 클래스 종속적, 인스턴스 종속적 레이블 손상과 같은 다양한 노이즈 유형에 대해 강건성을 향상시키고자 한다.
• 모델의 신뢰도 추정을 활용하여 실제 세계 데이터셋에서 노이즈 있는 레이블을 정확하게 탐지할 수 있도록 하고자 한다.

제안 방법

• Robust LR는 두 개의 학생 네트워크를 사용하는 공동 학습 프레임워크를 활용하여 상호로 가짜 레이블을 생성하고 예측을 상호로 개선한다.
• 훈련 손실에 대한 가우시안 믹스처 모델(GMM)을 통해 각 예제의 신뢰도를 추정하고, 그 기반으로 노이즈 있는 레이블과 가짜 레이블을 동적으로 볼륨 조합한다.
• 손실 모델링과 최종 훈련에 대해 서로 다른 데이터 증강 전략을 적용함으로써 일반화 능력과 강건성을 향상시킨다.
• 신뢰도 추정은 각 예제의 손실 분포를 모델링하기 위해 GMM를 사용하여 신뢰할 수 있는 예측에 더 높은 가중치를 할당한다.
• 모든 레이블을 기각하지 않아 노이즈 있는 레이블에서 잠재적으로 유용한 정보를 유지한다.
• 오류 누적을 줄이기 위해 신뢰도 추정과 가짜 레이블링을 통합된 엔드 투 엔드 훈련 프로세스에 통합한다.

실험 결과

연구 질문

• RQ1 확증 편향은 이중 단계 레이블 노이즈 학습 파이프라인에서 어떻게 나타나며, 모델 성능에 어떤 영향을 미치는가?
• RQ2 신뢰도 추정과 가짜 레이블링을 통해 모든 노이즈 있는 레이블을 유지하는 하이브리드 방법이 기존의 이중 단계 접근보다 우월한가?
• RQ3 두 모델 간의 공동 학습이 얼마나 효과적으로 확증 편향을 감소시키고 레이블 개선을 향상시키는가?
• RQ4 CIFAR-10과 같은 실제 세계 데이터셋에서 Robust LR이 잘못 레이블링된 예제를 탐지하는 데 얼마나 효과적인가?
• RQ5 강력한 데이터 증강과 신뢰도 추정이 이 방법의 강건성에 어떤 역할을 하는가?

주요 결과

• Robust LR는 90% 대칭 노이즈가 있는 CIFAR-10에서 최신 기술 수준(SOTA)의 정확도를 달성하여 테스트 정확도 96.4%를 기록했으며, 이는 이전 방법들을 능가한다.
• 실제 세계 노이즈가 있는 Mini-WebVision과 ANIMAL-10N에서 각각 95.7%와 94.3%의 정확도를 달성하여 강력한 일반화 능력을 입증했다.
• 절단 실험 결과, 강력한 데이터 증강을 제거하면 정확도가 92.6%(최고)에서 72.7%(최하)로 떨어지며, 이는 증강이 모델 수렴에 핵심적인 역할을 한다는 것을 시사한다.
• GMM 기반의 신뢰도 추정은 노이즈 비율을 정확히 추정하며, 90% 노이즈 비율에서 78%의 예제에 대해 높은 노이즈 확률을 할당했고, 이는 진짜 81%에 매우 가까운 수준이다.
• 공동 학습을 제거하면 정확도가 96.4%에서 95.6%(최고)로 떨어지고, 95.7%에서 94.4%(최하)로 떨어지며, 이는 확증 편향 감소에 공동 학습이 중요한 역할을 한다는 것을 확인한다.
• Robust LR는 CIFAR-10 훈련 세트에서 50개의 잘못 레이블링되거나 모호한 예제를 성공적으로 식별했으며, 새롭게 비행기와 새, 개와 고양이 등 어려운 케이스도 포함되어 있다.