[논문 리뷰] Learning To Classify Images Without Labels.

Wouter Van Gansbeke, Simon Vandenhende외 3명|arXiv (Cornell University)|2020. 05. 25.

Domain Adaptation and Few-Shot Learning인용 수 12

한 줄 요약

이 논문은 레이블이 전혀 없는 조건에서 최신 기술 수준을 달성하는 두 단계의 비지도 이미지 분류 방법을 제안한다. 이 방법은 자기지도 학습 기반 표현 학습과 학습 가능한 클러스터링을 분리하여 구현하며, 지도 학습이 전혀 필요 없이도 성능을 크게 향상시킨다. CIFAR10에서 +26.6% 향상, CIFAR100-20에서 +25.0% 향상, STL10에서 +21.3% 향상되었으며, 이미지넷에서 제로샷 설정에서 강력한 성능을 달성한 최초의 방법이다.

ABSTRACT

Can we automatically group images into semantically meaningful clusters when ground-truth annotations are absent? The task of unsupervised image classification remains an important, and open challenge in computer vision. Several recent approaches have tried to tackle this problem in an end-to-end fashion. In this paper, we deviate from recent works, and advocate a two-step approach where feature learning and clustering are decoupled. First, a self-supervised task from representation learning is employed to obtain semantically meaningful features. Second, we use the obtained features as a prior in a learnable clustering approach. In doing so, we remove the ability for cluster learning to depend on low-level features, which is present in current end-to-end learning approaches. Experimental evaluation shows that we outperform state-of-the-art methods by large margins, in particular +26.6% on CIFAR10, +25.0% on CIFAR100-20 and +21.3% on STL10 in terms of classification accuracy. Furthermore, our method is the first to perform well on a large-scale dataset for image classification. In particular, we obtain promising results on ImageNet, and outperform several semi-supervised learning methods in the low-data regime without the use of any ground-truth annotations. The code is made publicly available at this https URL.

연구 동기 및 목표

• 지상 진술 레이블이 없는 조건에서 비지도 이미지 분류의 열린 과제를 해결하기 위해.
• 특징 학습과 클러스터 최적화를 분리하여 저수준 특징에 의존하지 않도록 함으로써 클러스터링 성능을 향상시키기 위해.
• 레이블이 전혀 없는 조건에서 CIFAR10, CIFAR100-20, STL10 등의 표준 벤치마크에서 최신 기술 수준의 정확도를 달성하기 위해.
• 레이블이 전혀 없는 조건에서 대규모 데이터셋인 이미지넷에서도 강력한 성능을 확보하기 위해.
• 자기지도 특징가 비지도 학습에서 클러스터링에 강력한 사전 지식으로 기능할 수 있음을 입증하기 위해.

제안 방법

• 첫 번째 단계로, 레이블 없이도 의미적으로 유의미한 특징을 추출하기 위해 자기지도 표현 학습을 사용한다.
• 두 번째 단계로, 학습된 특징을 입력으로 받아 클러스터 할당을 최적화하는 학습 가능한 클러스터링 모듈을 사용한다.
• 클러스터링 단계는 미분 가능하고 엔드 투 엔드로 훈련 가능하지만, 완전히 사전에 학습된 특징에서 유래한 사전 지식에 의존한다.
• 특징 학습과 클러스터링을 분리하여 클러스터링이 저수준 이미지 통계에 의존하는 것을 명시적으로 제거한다.
• 표준 벤치마크인 CIFAR10, CIFAR100-20, STL10, 이미지넷을 사용하여 방법을 평가한다.
• 재현성과 향후 연구를 위해 코드를 공개한다.

실험 결과

연구 질문

• RQ1 표현 학습과 클러스터링을 분리함으로써 비지도 이미지 분류 성능을 크게 향상시킬 수 있는가?
• RQ2 자기지도 특징를 사전 지식으로 사용하면 표준 벤치마크에서 클러스터링 성능이 향상되는가?
• RQ3 두 단계 접근 방식이 제로샷 이미지 분류에서 엔드 투 엔드 비지도 학습 방법보다 우월한가?
• RQ4 제안된 방법은 레이블이 전혀 없는 조건에서 대규모 데이터셋인 이미지넷으로도 확장 가능한가?
• RQ5 낮은 데이터 환경에서 반지도 학습 기준선과 비교해 본다면 방법의 성능은 어떠한가?

주요 결과

• 이 방법은 레이블이 전혀 없는 조건에서 기존 최신 기술 수준 방법 대비 CIFAR10에서 분류 정확도를 +26.6% 향상시켰다.
• CIFAR100-20에서 기존 비지도 접근 방식보다 정확도를 +25.0% 향상시켰다.
• STL10에서 정확도를 +21.3% 향상시켜 다양한 데이터셋 간의 강력한 일반화 능력을 입증했다.
• 이 방법은 제로샷 설정에서 이미지넷에서 새로운 최신 기술 수준을 수립했으며, 낮은 데이터 환경에서 여러 반지도 학습 방법을 능가했다.
• 결과는 특징 학습과 클러스터링을 분리함으로써 더 견고하고 의미적으로 유의미한 클러스터가 생성됨을 보여준다.
• 이 방법은 자기지도 특징만을 사용하고 지상 진술 레이블이 전혀 없는 조건에서 이미지넷에서 강력한 성능을 달성한 최초의 방법이다.