[논문 리뷰] Joint Optimization Framework for Learning with Noisy Labels

Daiki Tanaka, Daiki Ikami외 2명|arXiv (Cornell University)|2018. 03. 30.

Machine Learning and Data Classification참고 문헌 4인용 수 105

한 줄 요약

이 논문은 노이즈가 있는 레이블 데이터에서 학습하기 위해 CNN 파라미터와 실제 레이블의 공동 최적화를 제안하며, alternating 업데이트와 soft-labels를 사용해 CIFAR-10의 노이즈 및 Clothing1M에서 최첨단 방법을 능가한다.

ABSTRACT

Deep neural networks (DNNs) trained on large-scale datasets have exhibited significant performance in image classification. Many large-scale datasets are collected from websites, however they tend to contain inaccurate labels that are termed as noisy labels. Training on such noisy labeled datasets causes performance degradation because DNNs easily overfit to noisy labels. To overcome this problem, we propose a joint optimization framework of learning DNN parameters and estimating true labels. Our framework can correct labels during training by alternating update of network parameters and labels. We conduct experiments on the noisy CIFAR-10 datasets and the Clothing1M dataset. The results indicate that our approach significantly outperforms other state-of-the-art methods.

연구 동기 및 목표

• 웹 소스에서 수집된 노이즈 레이블을 포함하는 대규모 데이터셋에서 DNN을 학습시키려는 동기.
• 파라미터와 레이블을 공동 최적화하여 노이즈 레이블의 기억화를 피하는 프레임워크를 개발.
• 높은 학습률이 노이즈 기억화를 방지하고 강인성을 향상시킨다는 것을 증명.
• 합성(SN-CIFAR, AN-CIFAR, PL-CIFAR) 및 실제(Clothing1M) 노이즈 데이터셋에서 제안된 프레임워크를 평가.

제안 방법

• 네트워크 파라미터 θ와 레이블 행렬 Y를 최적화하여 L(θ, Y | X) 를 최소화하는 공동 목표를 정의하는데, 이 세 가지 항으로 구성됩니다: Lc (레이블과 예측 간 KL-발산), Lp (클래스 사전 확률 p를 강제하는 정규화), Le (엔트로피 기반 정규화).
• 교대 최적화를 사용합니다: Y를 고정한 채 L(θ, Y|X)에서 SGD로 θ를 업데이트한 다음, 샘플별로 hard 또는 soft 레이블 중 하나를 사용해 Y를 업데이트하며, soft 레이블이 더 우수하게 작동합니다.
• soft-label 업데이트 y_i = s(θ, x_i) 와 사전 p 를 활용하여 무의미한 해(solution)로 수렴하는 것을 피합니다(실험에서 CIFAR-10의 경우 uniform).
• 높은 학습률을 활용하여 노이즈 레이블의 기억화를 줄이고 lr에 따라 실험에서 다른 기억화 역학을 관찰합니다.
• 엔트로피 항 Le 를 도입하여 소프트 레이블 분포가 단일 클래스로 집중되도록 충분히 예리하게 유지합니다.
• 두 단계 학습 프로세스를 수행합니다: 먼저 레이블을 업데이트하고 얻은 레이블로 네트워크를 학습합니다.

실험 결과

연구 질문

• RQ1 네트워크 파라미터와 레이블의 공동 최적화가 DNN에서 노이즈 레이블의 기억화를 완화할 수 있는가?
• RQ2 soft-label 업데이트가 hard-label 업데이트보다 더 잘 회복된 깨끗한 레이블과 테스트 정확도 향상에 기여하는가?
• RQ3 학습률 선택이 노이즈 레이블의 기억화 및 노이즈 감독 하에서의 전반적 성능에 어떤 영향을 미치는가?
• RQ4 제안된 방법이 합성 노이즈 CIFAR-10 변종과 실제 Clothing1M 데이터에서 어떻게 작동하는가?
• RQ5 Lp 및 Le 정규화 항이 비정상적 레이블 할당을 방지하고 강건한 학습을 촉진하는 데 어떤 영향을 미치는가?

주요 결과

• 제안된 공동 최적화 프레임워크가 SN-CIFAR에서 최첨단 결과를 내고 Clothing1M에서도 이전 방법과 비교해 경쟁력 있는 성능을 보인다.
• Soft-label 업데이트가 hard-label 업데이트보다 우수하여 예측 자신도를 활용해 더 빠른 수렴과 더 높은 테스트 정확도를 달성한다.
• 높은 학습률은 노이즈 레이블의 기억화를 방지하는 데 도움이 되며, 훈련 중 노이즈에 맞춰지는 것을 지연시키거나 피한다.
• 레이블 최적화에 이어 표준 지도 학습으로 이어지는 2단계 학습은 레이블 노이즈에 대한 강건성을 향상시킨다.
• 클래스 사전 KL 항과 엔트로피 항을 사용한 정규화가 레이블 업데이트를 안정시키고 단일 클래스로의 붕괴를 방지한다.