[논문 리뷰] Attention-Aware Noisy Label Learning for Image Classification

Zhenzhen Wang, Chunyan Xu외 2명|arXiv (Cornell University)|2020. 09. 30.

Machine Learning and Data Classification참고 문헌 24인용 수 4

한 줄 요약

이 논문은 이미지 분류를 위한 노이즈 레이블 학습 프레임워크인 A²NL을 제안한다. 이 프레임워크는 클래스와 이미지 간 다양한 레이블 노이즈 분포를 포착하기 위해 다수의 노이즈 특화 유닛을 갖춘 노이즈-어텐션 모델을 사용한다. 또한 이전 반복 학습에서 유도된 지식을 정제하는 재귀적 학습 전략을 도입하여, 깨끗한 데이터가 없이도 합성 및 실제 노이즈 데이터셋 모두에서 강건성을 크게 향상시킨다. 이로 인해 강력한 기준 모델 대비 최대 4%의 오차 감소를 달성한다.

ABSTRACT

Deep convolutional neural networks (CNNs) learned on large-scale labeled samples have achieved remarkable progress in computer vision, such as image/video classification. The cheapest way to obtain a large body of labeled visual data is to crawl from websites with user-supplied labels, such as Flickr. However, these samples often tend to contain incorrect labels (i.e. noisy labels), which will significantly degrade the network performance. In this paper, the attention-aware noisy label learning approach ($A^2NL$) is proposed to improve the discriminative capability of the network trained on datasets with potential label noise. Specifically, a Noise-Attention model, which contains multiple noise-specific units, is designed to better capture noisy information. Each unit is expected to learn a specific noisy distribution for a subset of images so that different disturbances are more precisely modeled. Furthermore, a recursive learning process is introduced to strengthen the learning ability of the attention network by taking advantage of the learned high-level knowledge. To fully evaluate the proposed method, we conduct experiments from two aspects: manually flipped label noise on large-scale image classification datasets, including CIFAR-10, SVHN; and real-world label noise on an online crawled clothing dataset with multiple attributes. The superior results over state-of-the-art methods validate the effectiveness of our proposed approach.

연구 동기 및 목표

• 웹 크롤링된 이미지 데이터셋에서 발생하는 노이즈 레이블로 인한 딥 러닝 성능 저하 문제를 해결하기 위해.
• 클래스 간 및 개별 이미지 간 이질적인 레이블 노이즈 분포를 모델링하고, 각 클래스에 대해 균일한 노이즈를 가정하는 것과는 다릅니다.
• 모델 파라미터를 늘리지 않고도 노이즈 레이블에 강건한 네트워크의 학습 능력을 향상시키기 위해.
• 이전 반복에서 유도된 소프트 예측을 활용하여 일반화 성능을 향상시키는 재귀적 훈련 전략을 개발하기 위해.
• 합성 레이블 노이즈와 온라인 소스에서 유래한 실제 노이즈 데이터 모두에서 방법의 유효성을 검증하기 위해.

제안 방법

• 노이즈-어텐션(NA) 모델은 다수의 노이즈 특화 유닛으로 구성되며, 각 유닛은 이미지의 부분 집합에 대해 고유한 노이즈 레이블 분포를 학습한다.
• 각 노이즈 특화 유닛은 개별적인 레이블 혼동, 예를 들어 개를 고양이로 잘못 분류하거나 말을 고양이로 잘못 분류하는 등의 특정 유형의 오류를 모델링하도록 훈련된다.
• 재귀적 학습 전략은 이전에 훈련된 어텐션 네트워크의 소프트 예측과 진짜 레이블을 조합하여 현재 반복의 지도 학습을 수행한다.
• 재귀적 과정은 이전 반복에서 유도된 고차원 지식을 활용하여 네트워크를 점진적으로 개선함으로써, 파rameter를 추가하지 않고도 특징 표현을 향상시킨다.
• 이 프레임워크는 플러그 앤 플레이 방식으로, 어떤 표준 CNN 아키텍처와도 호환되며, 합성 및 실제 노이즈 데이터셋 모두에 적용 가능하다.
• 이 방법은 진짜 레이블과 이전 반복의 소프트 출력을 조합한 지도 학습을 통해 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 클래스별로 다수의 서로 다른 노이즈 레이블 분포를 모델링하면 이미지 분류에서 레이블 노이즈에 대한 강건성이 향상되는가?
• RQ2 이전 반복의 소프트 예측을 정제하는 재귀적 학습 전략이 노이즈가 있는 데이터에서 모델의 일반화 성능에 어떤 영향을 미치는가?
• RQ3 제안된 어텐션 인식 프레임워크가 합성 및 실제 노이즈 레이블 벤치마크에서 기존 방법을 능가하는가?
• RQ4 노이즈 특화 유닛이 유사한 클래스에서의 다양한 잘못된 분류 패턴을 포함한 클래스 내 레이블 노이즈의 다양성을 얼마나 잘 포착할 수 있는가?
• RQ5 추가적인 깨끗한 데이터 없이도 이 방법이 강력한 성능을 달성할 수 있는가?

주요 결과

• 제안된 A²NL 프레임워크는 M=6개의 노이즈 특화 유닛을 사용하여, 다중 속성의 실제 옷차림 데이터셋에서 기본 모델 대비 4%의 오차 감소를 달성했다.
• 재귀적 학습 전략은 단 한 번의 반복 후에도 테스트 오차를 1% 이상 개선했으며, 5회 반복까지는 지속적인 성능 향상이 있었고, 이후에는 개선 폭이 점차 줄어들었다.
• 재귀적 정밀 조정 이전에는 바텀업 모델 [20] 대비 오차율 2% 향상, 재귀적 학습 이후에는 4% 향상되었으며, 이는 오직 노이즈 데이터만을 사용한 결과이다.
• 깨끗한 데이터에 접근할 수 없음에도 불구하고, A²NL 모델은 재귀적 학습을 통해 Distillation [15]와 같은 방법의 성능을 따라잡거나 뛰어넘었으며, 후자의 경우 사전 훈련을 위해 2,000장의 수동으로 정제된 테스트 이미지가 필요하다.
• 제거 실험을 통해 노이즈 특화 유닛의 수를 늘릴수록 성능 향상이 이루어지며, M=6이 옷차림 데이터셋에서 최적임을 확인했다.
• 이 방법은 합성 레이블 노이즈(CIFAR-10, SVHN)와 실제 노이즈 데이터 모두에 잘 일반화되어 다양한 노이즈 패턴에 강건함을 입증했다.