[논문 리뷰] Label Refinery: Improving ImageNet Classification through Label Progression

Hessam Bagherinezhad, Maxwell Horton외 2명|arXiv (Cornell University)|2018. 05. 07.

Machine Learning and Data Classification참고 문헌 24인용 수 155

한 줄 요약

본 논문은 Label Refinery를 소개한다. 이는 crop 수준 라벨을 소프트하고 동적 타겟으로 정제하는 반복적 방법으로, ImageNet에서 여러 아키텍처에 걸쳐 상당한 정확도 향상을 얻는다.

ABSTRACT

Among the three main components (data, labels, and models) of any supervised learning system, data and models have been the main subjects of active research. However, studying labels and their properties has received very little attention. Current principles and paradigms of labeling impose several challenges to machine learning algorithms. Labels are often incomplete, ambiguous, and redundant. In this paper we study the effects of various properties of labels and introduce the Label Refinery: an iterative procedure that updates the ground truth labels after examining the entire dataset. We show significant gain using refined labels across a wide range of models. Using a Label Refinery improves the state-of-the-art top-1 accuracy of (1) AlexNet from 59.3 to 67.2, (2) MobileNet from 70.6 to 73.39, (3) MobileNet-0.25 from 50.6 to 55.59, (4) VGG19 from 72.7 to 75.46, and (5) Darknet19 from 72.9 to 74.47.

연구 동기 및 목표

• 이미지 분류에서 기존의 단일 라벨 주석의 한계를 식별한다.
• 소프트하고 동적이며 집합적인 라벨을 생성하는 반복적이고 데이터 구동형 라벨 정제 프로세스를 제안한다.
• ImageNet에서 다양한 아키텍처에 걸쳐 일관된 정확도 향상을 보여준다.
• 정제 품질에 영향을 미치는 요인(아키텍처, 손실, 동적성 및 적대적 라벨링)을 분석한다.

제안 방법

• 연속적인 Label Refinery 네트워크를 사용하여 데이터세트 내 크롭에 대한 라벨 보강을 형식화한다.
• 첫 번째 정제기 Cθ1을 표준 교차 엔트로피 손실로 실제 라벨에 대항해 학습시킨다.
• 이후의 정제기 Cθt(t>1)을 학습시켜 출력과 이전 정제기의 소프트 라벨 사이의 KL-발산을 최소화하고, 반복을 통해 정보를 효과적으로 전이시킨다.
• 선택적으로 입력을 수정해 연속 정제기 간의 KL-발산을 최대화하도록 하는 적대적 지터링을 사용한다.
• 교차 아키텍처 이점을 연구하고 과적합 동작을 분석하기 위해 다양한 정제기 아키텍처를 실험한다.
• 정제 효과가 가장 큰 영역을 평가하기 위해 이미지 수준 대 카테고리 수준 라벨 정제를 비교한다.

실험 결과

연구 질문

• RQ1 모델이 생성한 소프트 라벨링 스킴을 사용한 반복적이고 크롭 수준의 라벨 정제가 여러 아키텍처에서 ImageNet 분류 성능을 개선할 수 있는가?
• RQ2 동적(이미지 특이) 라벨과 소프트(확률적) 라벨이 성능 향상에 어떻게 기여하는가?
• RQ3 한 아키텍처에서 학습된 정제기가 다른 아키텍처를 효과적으로 개선하는가(교차 아키텍처 정제)?
• RQ4 정제 과정에서 적대적으로 교란된 크롭을 사용하는 것이 어떤 영향을 주는가?

주요 결과

• 정제 기반 학습은 모든 아키텍처에서 일관되게 Top-1 정확도를 향상시킨다(예: AlexNet, VGG19, ResNet50, MobileNet, Darknet19).
• 소프트 동적 라벨링과 크롭 단위 라벨 정제는 상호 보완적 이점을 제공하며, 함께 사용할 때 추가적인 개선을 낳는다.
• 교차 아키텍처 정제(예: ResNet-50을 다른 네트워크의 정제로 사용하는 것)는 특히 MobileNet과 같은 소형 모델에서 큰 정확도 향상을 낳는다.
• 자체 정제와 순차 정제기는 과적합을 줄이고 학습과 검증 성능을 정렬시켜 일반화 능력을 향상시킨다.
• 적대적으로 생성된 라벨(적대적 지터링)은 정제와 함께 사용할 때 소형 모델의 정확도를 더 높인다.
• 카테고리 수준 분류학 기반 정제는 이미지 수준 정제보다 성능이 좋지 않으며, 시각적 유사성이 의미론적 분류 체계보다 이점을 더 이끈다는 것을 시사한다.
• 정제기 아키텍처 선택은 중요하다; 과적합이 덜되는 정제기 모델은(검증 정확도가 낮더라도) 더 높은 품질의 크롭 라벨과 더 나은 후속 성능을 낼 수 있다.
• KL-발산을 정제 손실로 사용하는 것은 단순 교차 엔트로피를 넘어서 일반화되며 다양한 손실 구성에 적합하다.