[논문 리뷰] Meta-Learning for Semi-Supervised Few-Shot Classification

Mengye Ren, Eleni Triantafillou외 6명|arXiv (Cornell University)|2018. 03. 02.

Domain Adaptation and Few-Shot Learning참고 문헌 21인용 수 726

한 줄 요약

본 논문은 에피소드 내 무라벨 데이터를 포함해 Prototypical Networks를 반지도 학습 기반의 소수 샷 학습으로 확장하고, 여러 개선안(soft k-means, distractor 처리, masking)을 제시하며 Omniglot, mini-ImageNet, tiered-ImageNet 전반에서 일관된 이득을 보인다.

ABSTRACT

In few-shot classification, we are interested in learning algorithms that train a classifier from only a handful of labeled examples. Recent progress in few-shot classification has featured meta-learning, in which a parameterized model for a learning algorithm is defined and trained on episodes representing different classification problems, each with a small labeled training set and its corresponding test set. In this work, we advance this few-shot classification paradigm towards a scenario where unlabeled examples are also available within each episode. We consider two situations: one where all unlabeled examples are assumed to belong to the same set of classes as the labeled examples of the episode, as well as the more challenging situation where examples from other distractor classes are also provided. To address this paradigm, we propose novel extensions of Prototypical Networks (Snell et al., 2017) that are augmented with the ability to use unlabeled examples when producing prototypes. These models are trained in an end-to-end way on episodes, to learn to leverage the unlabeled examples successfully. We evaluate these methods on versions of the Omniglot and miniImageNet benchmarks, adapted to this new framework augmented with unlabeled examples. We also propose a new split of ImageNet, consisting of a large set of classes, with a hierarchical structure. Our experiments confirm that our Prototypical Networks can learn to improve their predictions due to unlabeled examples, much like a semi-supervised algorithm would.

연구 동기 및 목표

• 메타 학습 에피소드 내에서 반지도 few-shot 학습을 동기 부여하고 형식화한다.
• 학습과 추론 모두에서 unlabeled data를 활용하도록 Prototypical Networks를 확장한다.
• 무라벨 풀의 방해요소를 처리하는 견고한 무라벨 데이터 정제 방법을 개발한다.
• 적응된 Omniglot 및 ImageNet 기반 벤치마크에서 평가하고, 계층적 클래스 분할을 위한 tiered ImageNet을 도입한다.

제안 방법

• 메타 학습 프레임워크 내에서 레이블이 있는 지원 세트, 무라벨 풀, 그리고 쿼리 세트를 포함한 에피소드를 표현한다.
• (i) Prototypical Networks의 Soft k-Means 확장, (ii) 방해자 클러스터를 갖는 Soft k-Means, (iii) 학습된 마스킹을 사용해 잠재적 방해자를 약화시키는 Masked Soft k-Means를 통해 무라벨 데이터를 이용해 클래스 프로토타입을 정제한다.
• 표준 Prototypical Network 손실을 사용해 정제된 프로토타입으로 엔드투엔드 학습을 수행하고, 임베딩이 반지도 정교화에 적응하도록 한다.
• Omniglot, mini-ImageNet, tiered-ImageNet을 클래스별로 라벨/비라벨 분할과 선택적 방해자를 적용하여 적응시키고, 방해자 여부에 관계없이 1-shot 및 5-shot 정확도를 평가한다.
• 재현성을 위한 공개 코드 제공(GitHub 링크).

실험 결과

연구 질문

• RQ1 에피소드 내의 무라벨 데이터가, 무라벨 집합의 클래스가 대상 클래스들을 포괄하거나 방해자를 포함할 때 소수 샷 분류를 개선할 수 있는가?
• RQ2 메타 훈련 중 학습된 프로토타입의 반지도 정교화가 순수 지도 학습 Prototypical Networks 및 순진한 반지도 추론보다 성능이 우수한가?
• RQ3 어떤 반지도 정교화 전략(soft k-means 변형 with/ distractors / masking)이 데이터셋과 샷 설정 전반에서 가장 높은 강건성과 정확도를 제공하는가?
• RQ4 tiered ImageNet 계층 구조가 소수 샷 반지도 학습과 다른 테스트 클래스에 대한 일반화에 어떻게 영향을 미치는가?

주요 결과

모델	정확도	정확도 w/ D
Supervised	94.62 \u0000b1 0.09	94.62 \u0000b1 0.09
Semi-Supervised Inference	97.45 \u0000b1 0.05	95.08 \u0000b1 0.09
Soft k-Means	97.25 \u0000b1 0.10	95.01 \u0000b1 0.09
Soft k-Means+Cluster	97.68 \u0000b1 0.07	97.17 \u0000b1 0.04
Masked Soft k-Means	97.52 \u0000b1 0.07	97.30 \u0000b1 0.08

• 제안된 모든 반지도 Prototypical Network 변형은 대부분의 설정에서 Omniglot, mini-ImageNet, tiered-ImageNet에서 순수하게 지도 학습한 baseline을 능가한다.
• 방해자 없이(distractor 없는 설정) 설정에서는, 최소 한 가지 반지도 변형이 데이터셋과 샷 수에 걸쳐 Baseline을 이기고 있으며, 보편적으로 최상인 단일 모델은 없다.
• 방해자 시나리오에서 Masked Soft k-Means가 가장 강건한 성능을 보이며, 평가된 방법들 중 종종 최첨단 성과를 달성한다.
• 무라벨 집합 크기 M을 증가시키면 테스트 정확도가 향상되어, 모델이 메타 학습을 통해 무라벨 데이터를 활용하도록 학습함을 시사한다.
• 본 연구는 반지도 소수 샷 학습을 위한 대규모의 계층적으로 구조화된 벤치마크로 tiered ImageNet를 도입한다.