[논문 리뷰] TADAM: Task dependent adaptive metric for improved few-shot learning

Boris N. Oreshkin, Pau Rodríguez외 1명|arXiv (Cornell University)|2018. 05. 23.

Domain Adaptation and Few-Shot Learning참고 문헌 34인용 수 199

한 줄 요약

TADAM은 메트릭 스케일링과 보조 학습(auxiliary co-training)을 통한 태스크-조건부 적응 메트릭스 공간을 도입하여 few-shot 분류에서 mini-Imagenet에 대한 최첨단 성과를 달성합니다.

ABSTRACT

Few-shot learning has become essential for producing models that generalize from few examples. In this work, we identify that metric scaling and metric task conditioning are important to improve the performance of few-shot algorithms. Our analysis reveals that simple metric scaling completely changes the nature of few-shot algorithm parameter updates. Metric scaling provides improvements up to 14% in accuracy for certain metrics on the mini-Imagenet 5-way 5-shot classification task. We further propose a simple and effective way of conditioning a learner on the task sample set, resulting in learning a task-dependent metric space. Moreover, we propose and empirically test a practical end-to-end optimization procedure based on auxiliary task co-training to learn a task-dependent metric space. The resulting few-shot learning model based on the task-dependent scaled metric achieves state of the art on mini-Imagenet. We confirm these results on another few-shot dataset that we introduce in this paper based on CIFAR100. Our code is publicly available at https://github.com/ElementAI/TADAM.

연구 동기 및 목표

• 메트릭 스케일링이 few-shot 학습에서 최적화와 성능에 어떤 영향을 미치는지 조사한다.
• 태스크-조건부 특징 추출기를 개발하여 태스크 의존적 메트릭 공간을 형성한다.
• 보조 학습을 통한 엔드 투 엔드 학습을 가능하게 하여 일반화를 개선한다.
• 이미지 분류의 어려운 few-shot 데이터셋에서의 개선을 보여준다.

제안 방법

• 소프트맥스 기반 분류에서 거리 메트릭을 스케일링하기 위해 학습 가능한 온도 매개변수 alpha를 도입한다.
• alpha에서의 그래디언트 동작 이론을 제시하고 두 가지 구성(알파 → 0 및 알파 → 무한대)과 그것들이 업데이트에 미치는 영향을 식별한다.
• 태스크 임베딩 네트워크를 통해 태스크 표현으로 특징 추출기를 조건화하여 계층별 감마와 베타를 예측하도록 한다(FILM/조건부 배치 정규화 스타일).
• 평균 클래스 프로토타입을 태스크 표현으로 사용하여 태스크-조건부 매개변수를 생성한다.
• 보조 태스크 공동 학습을 적용하여 학습 안정성과 일반화를 향상시키고 보조 태스크 확률을 점진적으로 감소시킨다.
• ResNet-12 백본으로 mini-Imagenet 및 새로운 FC100 기반 Fewshot-CIFAR100 데이터세트를 평가한다.

실험 결과

연구 질문

• RQ1 메트릭 스케일링이 서로 다른 메트릭(예: 유클리드, 코사인)에서 few-shot 분류 성능을 개선하는가?
• RQ2 태스크 조건화가 few-shot 태스크를 위한 학습된 메트릭 공간을 향상시킬 수 있는가, 네트워크의 어느 부분에서 가장 효과적인가?
• RQ3 보조 공동 학습이 태스크-조건부 모델의 효과적인 학습에 도움이 되는가?
• RQ4 스케일링 매개변수 alpha가 학습 역학과 최종 정확도에 미치는 영향은 무엇인가?

주요 결과

• 스케일된 유사도 메트릭은 비스케일드 메트릭과 맞먹거나 능가할 수 있으며, 특정 설정에서 기본값 대비 최대 14포인트의 향상을 달성한다.
• 제안된 태스크-조건부 메트릭 공간은 mini-Imagenet 5-way 5-shot에서 최첨단 결과(76.7% 정확도)를 제공하고 이전 최첨단보다 추가로 4.8포인트 향상시킨다.
• 최적의 alpha는 두 가지 점근적 영역 사이에 위치하며, 데이터를 통해 일관되게 성능을 개선하는 alpha 값이 존재하고 검증 세트에서 교차 검증 가능하다.
• 태스크 조건화(TEN + FILM 스타일 매개변수 생성)만으로는 충분하지 않으며, 보조 공동 학습이 TEN과 특징 추출기의 공동 학습을 가능하게 하는 데 핵심적이다.
• mini-Imagenet에서 스케일된 유클리드 거리와 TEN으로 1-shot 58.5%, 5-shot 76.7%, 10-shot 80.8%를 달성한다.
• 이 방법은 FC100 기반 Fewshot-CIFAR100으로 일반화되며 관련 프로토타입 방식 대비 상당한 이점을 보여준다.