[논문 리뷰] Unsupervised Few-shot Learning via Self-supervised Training

Zilong Ji, Xiaolong Zou외 2명|arXiv (Cornell University)|2019. 12. 20.

Domain Adaptation and Few-Shot Learning참고 문헌 33인용 수 14

한 줄 요약

이 논문은 자기지도 학습을 통한 비지도 소수 샘플 학습(UFLST)을 제안한다. 이는 레이블이 없는 데이터를 점진적으로 군집화하여 가짜 레이블이 부여된 에피소드 태스크를 생성하고, 이를 통해 소수 샘플 학습자(learner)를 에피소드 기반으로 훈련시켜 특징 표현을 개선하는 반복적 프로세스를 반복적으로 수행하는 방법이다. 이 방법은 Omniglot과 Mini-ImageNet에서 최신 기준 성능을 달성하였고, Market1501에서는 경쟁력 있는 성능을 보이며, 레이블이 전혀 없는 환경에서도 지도 학습 기반 모델에 근접한 성능을 달성한다.

ABSTRACT

Learning from limited exemplars (few-shot learning) is a fundamental, unsolved problem that has been laboriously explored in the machine learning community. However, current few-shot learners are mostly supervised and rely heavily on a large amount of labeled examples. Unsupervised learning is a more natural procedure for cognitive mammals and has produced promising results in many machine learning tasks. In the current study, we develop a method to learn an unsupervised few-shot learner via self-supervised training (UFLST), which can effectively generalize to novel but related classes. The proposed model consists of two alternate processes, progressive clustering and episodic training. The former generates pseudo-labeled training examples for constructing episodic tasks; and the later trains the few-shot learner using the generated episodic tasks which further optimizes the feature representations of data. The two processes facilitate with each other, and eventually produce a high quality few-shot learner. Using the benchmark dataset Omniglot and Mini-ImageNet, we show that our model outperforms other unsupervised few-shot learning methods. Using the benchmark dataset Market1501, we further demonstrate the feasibility of our model to a real-world application on person re-identification.

연구 동기 및 목표

• 실제 응용에서 레이블이 부족한 상황에서 소수 샘플 학습의 과제를 해결하기 위해, 레이블이 최소한으로 필요한 방법을 개발한다.
• 소수 샘플 일반화를 위해 인간과 유사한 비지도 점진적 학습 방식을 모방하는 자기지도 프레임워크를 개발한다.
• 비지도 군집화와 에피소드 기반 훈련을 통합된 반복적 프로세스로 통합하여 특징 표현과 태스크 구성 모두를 동시에 최적화한다.
• 실제 응용 분야, 예를 들어 인물 재식별과 같이 최소한의 레이블만으로도 비지도 소수 샘플 학습이 가능하고 효과적인지를 입증한다.

제안 방법

• 모델은 두 가지 과정을 번갈아 수행한다: 학습된 특징 기반으로 레이블이 없는 데이터를 점진적으로 군집화하여 가짜 레이블을 할당하고, 이 가짜 레이블이 부여된 태스크를 기반으로 에피소드 기반 훈련을 수행한다.
• 각 반복 과정에서 특징 임bedding을 기반으로 군집을 형성하고, 이들 군집에서 가짜 식별자(정체성)를 가진 지원 세트와 쿼리 세트를 샘플링하여 에피소드 태스크를 구성한다.
• 소수 샘플 학습자는 이러한 에피소드 태스크를 기반으로 훈련되어 특징 표현이 향상되며, 이는 다음 군집화 단계에서 사용된다.
• 이 프레임워크는 메트릭 학습을 위해 하드 트리플릿 손실을 사용한다. 이는 노이즈가 있거나 변동성이 큰 샘플을 다룰 때 프로토타입 기반 손실보다 더 강건함을 입증하였다.
• 수렴할 때까지 반복적으로 수행되며, 이 과정을 통해 실제 레이블 없이도 이식 가능하고 일반화 가능한 표현을 학습할 수 있다.
• 이 방법은 Omniglot, Mini-ImageNet, Market1501에서 평가되었으며, 표준 소수 샘플 벤치마크 및 인물 재식별 프로토콜을 사용하였다.

실험 결과

연구 질문

• RQ1 레이블이 없는 환경에서 비지도 군집화와 에피소드 기반 훈련을 동시에 최적화하여 소수 샘플 일반화 성능을 향상시킬 수 있는가?
• RQ2 특징과 가짜 레이블의 반복적 개선이 소수 샘플 학습 성능에 어떤 영향을 미치는가?
• RQ3 자기지도 프레임워크가 완전히 지도 학습된 모델과 경쟁 가능한 성능을 달성할 수 있는가?
• RQ4 레이블이 없는 예제 수가 제한되었을 경우 이 방법의 강건성은 어떠한가?
• RQ5 최소한의 레이블만으로도 실제 응용 분야, 예를 들어 인물 재식별과 같이 효과적으로 일반화되는가?

주요 결과

• Omniglot에서 UFLST는 하드 트리플릿 손실을 사용하여 1-shot 5-way 학습에서 97.03%의 정확도를 기록했고, 1-shot 20-way 학습에서는 97.37%의 정확도를 달성하였다. 이는 오직 레이블이 없는 데이터만을 사용한 결과이다.
• Mini-ImageNet에서 UFLST는 다른 비지도 소수 샘플 학습 방법들을 능가하였고, 지도 학습 기반 기준에 근접한 성능을 보였다.
• Market1501에서 UFLST는 하드 트리플릿 손실을 사용하여 1-shot 5-way 인물 재식별에서 91.4%의 정확도를 달성하였고, 저샷 설정에서 지도 학습 모델을 초월하는 성능을 보였다.
• Omniglot에서 레이블이 없는 데이터의 25%만을 사용했을 때도 UFLST는 다른 비지도 방법들과 비교해 유사한 성능을 기록하였으며, 데이터 효율성이 뛰어나다는 것을 입증하였다.
• 하드 트리플릿 손실은 특히 보행자 재식별과 같은 노이즈가 많고 변동성이 큰 환경에서 프로토타입 손실보다 뚜렷이 뛰어난 성능을 보였다.
• 군집화와 에피소드 기반 훈련 간의 반복적 교환은 별도의 군집화 및 훈련 파이프라인보다 훨씬 우수한 특징 표현을 도출하였다.