[논문 리뷰] Few-shot Learning with Meta Metric Learners

Yu Cheng, Mo Yu외 2명|arXiv (Cornell University)|2019. 01. 26.

Domain Adaptation and Few-Shot Learning참고 문헌 22인용 수 19

한 줄 요약

이 논문은 소수의 샘플로 학습하는 문제를 해결하기 위해, LSTM 기반 메타-러닝 기반의 메타 메트릭 러닝 기법을 제안한다. 이 기법은 태스크에 특화된 메트릭 분류기와 결합하여 불균형한 클래스와 다양한 레이블 수를 가진 태스크를 처리한다. 메타-학습된 최적화 파라미터를 통해 태스크에 특화된 메트릭을 학습함으로써, 표준 'k-샷 N-웨이' 설정과 유연한 레이블 수를 가진 실제 다중 도메인 소수 샘플 설정 모두에서 기존 방법들을 능가하는 성능을 보였다.

ABSTRACT

Few-shot Learning aims to learn classifiers for new classes with only a few training examples per class. Existing meta-learning or metric-learning based few-shot learning approaches are limited in handling diverse domains with various number of labels. The meta-learning approaches train a meta learner to predict weights of homogeneous-structured task-specific networks, requiring a uniform number of classes across tasks. The metric-learning approaches learn one task-invariant metric for all the tasks, and they fail if the tasks diverge. We propose to deal with these limitations with meta metric learning. Our meta metric learning approach consists of task-specific learners, that exploit metric learning to handle flexible labels, and a meta learner, that discovers good parameters and gradient decent to specify the metrics in task-specific learners. Thus the proposed model is able to handle unbalanced classes as well as to generate task-specific metrics. We test our approach in the `$k$-shot $N$-way' few-shot learning setting used in previous work and new realistic few-shot setting with diverse multi-domain tasks and flexible label numbers. Experiments show that our approach attains superior performances in both settings.

연구 동기 및 목표

• 모든 태스크에서 동일한 'N-웨이' 클래스 수를 가정하는 기존 소수 샘플 학습 방법의 한계를 해결하기 위해.
• 태스크가 도메인이나 레이블 구조에서 다를 경우 메트릭 학습 접근법에서 태스크 불변 메트릭의 유연성 부족을 극복하기 위해.
• 다양한 수의 레이블을 가진 이질적인 태스크 전용 네트워크 간의 일반화를 가능하게 하기 위해.
• 변동하는 레이블 수와 불균형한 클래스 분포를 가진 실제적인 다중 도메인 설정에서 소수 샘플 학습 성능을 향상시키기 위해.
• 매칭 네트워크에서 경사 하강법를 이끄는 데에 메타-학습된 최적화 파라미터의 효과를 입증하기 위해.

제안 방법

• 태스크에 특화된 메트릭 러너의 파라미터와 최적화 동역학을 예측하기 위해 LSTM 기반 메타-러닝 기반을 사용한다.
• 기본 러너로 매칭 네트워크를 사용하며, 메타-러닝 기반의 예측 결과로 메트릭을 파라미터화한다.
• 다양한 클래스 수와 레이블 분포를 가진 태스크의 분포에서 메타-러닝 기반을 훈련한다.
• 메타-러닝 기반의 지도 아래에서 기본 러너의 경사 하강법을 유도함으로써 태스크에 특화된 메트릭 적응을 가능하게 한다.
• 이중 단계 훈련 과정을 사용한다: 메타-러닝 기반은 다양한 태스크에서 학습하고, 이후 기본 러너는 메타-예측 파라미터를 사용해 태스크별로 적응한다.
• 기본 분류기의 표현 학습을 향상시키기 위해 FCE(특징 조건부 임베딩)를 통합한다.

실험 결과

연구 질문

• RQ1 레이블 수가 태스크 간으로 다를 경우, 메타-러닝 기반의 태스크에 특화된 메트릭 학습을 효과적으로 이끌 수 있는가?
• RQ2 태스크 불변 메트릭 대비 태스크에 특화된 메트릭을 학습함으로써 소수 샘플 일반화 성능이 향상되는가?
• RQ3 다중 도메인, 불균형 태스크를 포함한 실제 소수 샘플 설정에서 제안된 방법의 성능은 어떠한가?
• RQ4 제한된 데이터에서 메타-학습된 최적화 파라미터가 소수 샘플 학습 성능 향상에 기여하는가?
• RQ5 표준 및 실제 소수 샘플 벤치마크 모두에서 기존의 메타-학습 및 메트릭-학습 베이스라인 대비 모델의 성능은 어떠한가?

주요 결과

• FCE 기반 설정에서 다중 도메인 소수 샘플 벤치마크에서 메타 메트릭 러닝 기반은 60.82%의 정확도를 기록하여 기존 방법들을 능가했다.
• 3 vs. 5 클래스 분할을 가진 단일 태스크 SCS 설정에서, 4-샷 조건에서 59.02%의 정확도를 기록했으며, 메타-러닝 LSTM 및 매칭 네트워크 베이스라인을 크게 능가했다.
• Omniglot 데이터셋에서 FCE를 사용한 결과, 4-샷 조건에서 98.47%의 정확도를 기록했으며, 다음으로 우수한 방법보다 1% 이상 높았다.
• 불균형 설정에서도 강건성을 보였으며, 다른 모델이 실패하거나 성능이 열등한 어려운 3 vs. 5 분할 조건에서도 성능 향상을 보였다.
• FCE의 사용은 SCS에서는 성능 향상에 기여했지만, Omniglot에서는 효과가 더 작아 도메인에 따라 다른 이점이 있음을 시사했다.
• 표준 'k-샷 N-웨이' 설정과 실제 다중 도메인 소수 샘플 학습 설정 양쪽 모두에서 최신 기술(SOTA) 수준의 성능을 달성했다.