[논문 리뷰] GPU-based Self-Organizing Maps for Post-Labeled Few-Shot Unsupervised Learning

Lyes Khacef, Vincent Gripon외 1명|arXiv (Cornell University)|2020. 09. 04.

Domain Adaptation and Few-Shot Learning참고 문헌 27인용 수 6

한 줄 요약

이 논문은 엣지 배포를 위한 GPU 가속, 후행 레이블링이 적용된 소수 샘플 비지도 학습 방법을 제안한다. 전이 학습과 자기조직화 맵(SOM)을 결합하여, 사전 훈련된 워드 리스넷(Wide ResNet)을 특징 추출기로 사용하고, 레이블이 없는 데이터에서 SOM을 훈련한 후 소수의 샘플로 레이블을 할당함으로써, 미니-이미지넷에서 1-shot 시 71.53%의 정확도와 5-shot 시 82.22%의 정확도를 달성하여 최신 기술 수준(SOTA)을 달성한다. 이는 테스트 후 레이블링만을 사용하고 미세조정(fine-tuning)을 하지 않는다.

ABSTRACT

Few-shot classification is a challenge in machine learning where the goal is to train a classifier using a very limited number of labeled examples. This scenario is likely to occur frequently in real life, for example when data acquisition or labeling is expensive. In this work, we consider the problem of post-labeled few-shot unsupervised learning, a classification task where representations are learned in an unsupervised fashion, to be later labeled using very few annotated examples. We argue that this problem is very likely to occur on the edge, when the embedded device directly acquires the data, and the expert needed to perform labeling cannot be prompted often. To address this problem, we consider an algorithm consisting of the concatenation of transfer learning with clustering using Self-Organizing Maps (SOMs). We introduce a TensorFlow-based implementation to speed-up the process in multi-core CPUs and GPUs. Finally, we demonstrate the effectiveness of the method using standard off-the-shelf few-shot classification benchmarks.

연구 동기 및 목표

• 레이블링이 비용이 많이 들고 흔하지 않은 엣지 AI 시스템에서 소수 샘플 분류 문제를 해결한다.
• 훈련 중에 레이블이 없는 데이터를 기반으로 강력한 표현을 학습하고, 레이블은 후처리 단계에서만 할당하는 방법을 개발한다.
• 하드웨어 우수한 SOM과 GPU 가속을 활용하여 임베디드 장치에서 효율적이고 저지연의 추론을 가능하게 한다.
• 비지도 SOM 클러스터링과 후행 레이블링된 프로토타입이 초래하는 성능이 지도 학습 기반 소수 샘플 기준선과 동일하거나 이를 초월할 수 있음을 입증한다.

제안 방법

• 전이 학습을 위해 사전 훈련된 워드 리스넷(WRN)을 보편적인 특징 추출기로 사용한다.
• 레이블이 없는 타겟 데이터에서 SOM을 훈련하여 특징 공간 내의 클러스터 프로토타입을 학습한다.
• 각 클래스당 소수의 레이블링된 샘플만을 사용하여, 훈련 후 SOM 뉴런에 클래스 레이블을 할당한다.
• 유사도 계산에서 유클리드 거리 대신 코사인 거리를 사용하여 전이 학습 환경에서의 일반화 성능을 향상시킨다.
• GPU 지원을 갖춘 텐서플로우로 SOM을 구현하여 훈련 및 추론을 가속화한다.
• 비지도 SOM 훈련과 최소한의 감독을 사용한 레이블 할당을 단계적으로 수행하는 이중 단계 파이프라인을 사용한다.

실험 결과

연구 질문

• RQ1 후행 레이블링된 프로토타입을 사용한 비지도 SOM 클러스터링이 미세조정 없이도 경쟁적인 소수 샘플 분류 정확도를 달성할 수 있는가?
• RQ2 거리 측정 기준(유클리드 거리 대비 코사인 거리)의 선택이 소수의 레이블이 있는 전이 학습에서 성능에 어떤 영향을 미치는가?
• RQ3 소수의 레이블 예제가 부족할 경우, 레이블이 없는 데이터가 얼마나 보완할 수 있는가?
• RQ4 실시간 엣지 배포를 위한 SOM 훈련에서 GPU 가속을 통해 얼마나 많은 성능 향상을 기대할 수 있는가?

주요 결과

• 제안된 방법은 1-shot 미니-이미지넷 벤치마크에서 71.53%의 정확도를 달성하여 비지도 방법 중 두 번째로 높은 순위를 기록한다.
• 5-shot 시나리오에서는 82.22%의 정확도를 기록하여 기존 접근 방식 중 상위 3개 이내에 진입한다.
• 유클리드 거리에서 코사인 거리로 전환함으로써, 다양한 샷 설정에서 정확도가 4.68%에서 5.9%까지 향상된다.
• 이 방법은 레이블이 없는 데이터가 제한된 레이블 데이터를 보완할 수 있음을 입증한다. 예를 들어, [s=3, Q=250]는 [s=5, Q=25]의 성능을 재현한다.
• GPU 가속된 텐서플로우 구현은 CPU 전용 실행 대비 약 100배의 속도 향상을 달성한다.
• s=1일 경우, 25개 뉴런을 가진 SOM이 최적의 성능을 보이며, 이는 더 큰 맵이 소수의 레이블에서 수렴을 방해할 수 있음을 시사한다.