[논문 리뷰] Deep Self-Learning From Noisy Labels

Jiangfan Han, Ping Luo외 1명|arXiv (Cornell University)|2019. 08. 06.

Machine Learning and Data Classification참고 문헌 37인용 수 15

한 줄 요약

이 논문은 실수 있는 레이블을 가진 실제 데이터셋에서 추가적인 감독이나 레이블 노이즈 분포에 대한 가정 없이 컨volutional 네트워크를 훈련하는 새로운 반복적 딥 세프러닝 프레임워크인 Self-Learning with Multi-Prototypes (SMP)을 제안한다. 여러 클래스 프로토타입을 사용해 노이즈가 있는 레이블을 보정하고, 원본 레이블과 보정된 레이블을 함께 훈련함으로써, Clothing1M 및 Food101-N와 같은 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성하며, 이전 방법들보다 최대 1.16% 높은 정확도를 기록한다.

ABSTRACT

ConvNets achieve good results when training from clean data, but learning from noisy labels significantly degrades performances and remains challenging. Unlike previous works constrained by many conditions, making them infeasible to real noisy cases, this work presents a novel deep self-learning framework to train a robust network on the real noisy datasets without extra supervision. The proposed approach has several appealing benefits. (1) Different from most existing work, it does not rely on any assumption on the distribution of the noisy labels, making it robust to real noises. (2) It does not need extra clean supervision or accessorial network to help training. (3) A self-learning framework is proposed to train the network in an iterative end-to-end manner, which is effective and efficient. Extensive experiments in challenging benchmarks such as Clothing1M and Food101-N show that our approach outperforms its counterparts in all empirical settings.

연구 동기 및 목표

• 사람의 실수나 웹 크롤링 자료에서 유래한 신뢰할 수 없는 레이블을 가진 실세계 노이즈 데이터셋에서 딥 네트워크를 훈련시키는 문제를 해결하기 위해.
• 대규모 응용 프로그램에 비용이 많이 들고 현실적으로 구현하기 어려운 추가 정제된 감독이나 보조 네트워크에 의존하는 것을 제거하기 위해.
• 특정 노이즈 분포를 가정하지 않고 반복적으로 노이즈가 있는 레이블을 보정할 수 있는 세프러닝 프레임워크를 개발하기 위해.
• 각 클래스에 대해 다수의 프로토타입을 사용할 경우 단일 프로토타입 방법에 비해 표현력과 레이블 보정 성능이 향상되는지 조사하기 위해.
• 추가 감독 없이 Clothing1M 및 Food101-N와 같은 실세계 노이즈 벤치마크에서 최신 기술 수준의 성능을 달성하기 위해.

제안 방법

• 프레임워크는 반복적인 엔드 투 엔드 방식으로 특징 추출과 레이블 보정에 동일한 공유 ConvNet을 사용한다.
• 각 반복 단계에서, 샘플 특징을 클러스터링을 통해 선택한 다수의 클래스 프로토타입과 비교하여 보정된 레이블을 생성한다.
• 각 노이즈가 있는 클래스에서 대표적인 샘플을 식별하는 데 사용되는 새로운 클러스터링 방법을 통해 클래스 프로토타입을 선택한다.
• 원본 노이즈 레이블과 보정된 레이블을 함께 사용해 모델을 공동으로 훈련하며, α=0.5로 설정된 가중 손실이 성능 최적화에 기여한다.
• 모든 노이즈 레이블을 대체하지 않기 때문에 과적합을 방지하고 원본 레이블에서 유용한 정보를 유지한다.
• 클러스터링 방법의 선택에 대해 강건하며, K-means++, 밀도 피크, 그리고 제안된 방법 모두에서 일관된 성능을 보였다.

실험 결과

연구 질문

• RQ1 추가적인 감독 없이도 실세계 데이터셋에서 노이즈가 있는 레이블을 효과적으로 보정할 수 있는 세프러닝 프레임워크는 가능한가?
• RQ2 각 클래스에 대해 다수의 프로토타입을 사용할 경우 단일 프로토타입보다 레이블 보정 성능과 모델 일반화 능력이 향상되는가?
• RQ3 클래스 프로토타입을 계산하는 데 사용되는 샘플 수에 프레임워크가 얼마나 민감한가?
• RQ4 원본 레이블과 보정된 레이블을 함께 훈련하는 것이 노이즈 레이블을 완전히 대체하는 것보다 성능이 뛰어나게 되는가?
• RQ5 Clothing1M 및 Food101-N와 같은 실세계 노이즈 벤치마크에서 최신 기술 수준의 성능을 달성할 수 있는가?

주요 결과

• Clothing1M에서 SMP는 프로토타입을 계산하는 데 각 클래스당 총 128,000개 중 2%(2,560개)의 학습 샘플만 사용해 테스트 정확도 74.45%를 달성했으며, 이는 이전 방법들을 초월한다.
• 추가로 25,000개의 검증된 레이블을 제공하면 SMP는 정확도 76.44%에 도달하여 강건한 일반화 능력과 확장성을 입증한다.
• 클러스터링 알고리즘의 선택에 대해 강건하며, K-means++, 밀도 피크, 그리고 제안된 방법 모두에서 정확도가 0.3% 이내로 일관되게 유지된다.
• 단일 프로토타입 방법(예: CleanNet)에 비해 각 클래스에 다수의 프로토타입을 사용함으로써 레이블 보정 및 모델 정확도 향상이 뚜렷하게 향상된다.
• Food101-N에서 SMP는 85.11%의 정확도를 기록했으며, 소프트 웨이팅을 사용한 CleanNet(83.95%)을 1.16% 초월한다.
• 원본 레이블과 보정된 레이블을 함께 훈련하는 방식(α=0.5)이 최고의 성능을 내며, 원본 레이블이 여전히 유용한 인덕티브 바이어스를 유지하고 있음을 확인한다.