[논문 리뷰] How to Train Your MAML to Excel in Few-Shot Classification

Han-Jia Ye, Wei‐Lun Chao|arXiv (Cornell University)|2021. 06. 30.

Domain Adaptation and Few-Shot Learning참고 문헌 111인용 수 16

한 줄 요약

이 논문은 소수의 샘플로 분류를 향상시키기 위해 내부 루프 기울기 단계 수를 늘리고, 모든 클래스에 대해 공유되는 가중치 벡터를 통해 순열 불변성을 강제함으로써 MAML 알고리즘을 수정한 unicorn-MAML을 제안한다. 이 방법은 복잡성 증가 없이도 Mini ImageNet과 Tiered ImageNet에서 최신 기술 수준 또는 경쟁력 있는 성능을 달성하며, 최근 많은 알고리즘들을 능가하면서도 MAML의 단순성을 유지한다.

ABSTRACT

Model-agnostic meta-learning (MAML) is arguably one of the most popular meta-learning algorithms nowadays. Nevertheless, its performance on few-shot classification is far behind many recent algorithms dedicated to the problem. In this paper, we point out several key facets of how to train MAML to excel in few-shot classification. First, we find that MAML needs a large number of gradient steps in its inner loop update, which contradicts its common usage in few-shot classification. Second, we find that MAML is sensitive to the class label assignments during meta-testing. Concretely, MAML meta-trains the initialization of an $N$-way classifier. These $N$ ways, during meta-testing, then have "$N!$" different permutations to be paired with a few-shot task of $N$ novel classes. We find that these permutations lead to a huge variance of accuracy, making MAML unstable in few-shot classification. Third, we investigate several approaches to make MAML permutation-invariant, among which meta-training a single vector to initialize all the $N$ weight vectors in the classification head performs the best. On benchmark datasets like MiniImageNet and TieredImageNet, our approach, which we name UNICORN-MAML, performs on a par with or even outperforms many recent few-shot classification algorithms, without sacrificing MAML's simplicity.

연구 동기 및 목표

• 표준 MAML이 강력한 이론적 기반을 지니고 있음에도 불구하고 소수의 샘플로 분류에서 성능이 열등한 이유를 조사하기 위해.
• 메타테스트 중 클래스 레이블 순열로 인한 MAML의 불안정성 문제를 해결하기 위해.
• 모델에 종속되지 않은 단순성이나 복잡한 서브넷 추가 없이 MAML의 성능을 향상시키기 위해.
• 특히 내부 루프 단계 수와 같은 최적의 초모수를 소수의 샘플 설정에서 규명하기 위해.

제안 방법

• 기존 MAML 관행과는 달리, 메타학습 및 메타테스트 모두에서 내부 루프 기울기 단계 수를 15~20으로 크게 사용한다.
• 모든 N개의 클래스 전용 가중치 벡터를 초기화하기 위해 한 번만 초기화되는 공유 가중치 벡터를 도입함으로써 순열 불변성을 강제한다.
• 이 공유 벡터는 메타학습 기간 동안 최적화되어, 추론 시 클래스 레이블의 배치 순서에 관계없이 모델 초기화가 불변이 되도록 한다.
• 이 방법은 MAML의 이중 최적화 프레임워크를 유지하지만, 클래스 간 대칭성이 확보된 분류기 헤드 초기화 방식으로 재정의한다.
• ResNet 기반 모델을 사용하여 Mini ImageNet과 Tiered ImageNet에서 평가하였으며, 샷 수에 따른 분석 및 교차 데이터셋 일반화 성능을 점검하였다.

실험 결과

연구 질문

• RQ1 표준 MAML이 강력한 메타학습 공식을 지니고 있음에도 불구하고 소수의 샘플로 분류에서 성능이 열등한 이유는 무엇인가?
• RQ2 내부 루프 기울기 단계 수가 소수의 샘플 설정에서 MAML의 성능에 어떤 영향을 미치는가?
• RQ3 왜 MAML은 메타테스트 중 클래스 레이블 순열에 민감하며, 이로 인한 불안정성은 어떻게 완화할 수 있는가?
• RQ4 순열 불변 초기화 방식을 통해 MAML의 성능을 향상시킬 수 있으며, 이는 아키텍처의 복잡성 증가 없이도 가능할까?

주요 결과

• Mini ImageNet와 Tiered ImageNet에서 MAML는 15~20개의 내부 루프 기울기 단계에서 최고 성능를 기록하며, 이는 이전 연구에서 일반적으로 사용된 1~5단계보다 크게 증가한 것이다.
• 가장 뛰어난 순열 불변 방법은 공유 가중치 벡터 하나로 모든 클래스 헤드를 초기화하는 unicorn-MAML이며, 다른 변종보다 뛰어난 성능을 보였다.
• 5-way 1-shot 분류에서 unicorn-MAML는 Mini ImageNet에서 88.38%의 정확도를 기록하여 표준 MAML(88.08%)을 초월했으며, ProtoNet 및 SimpleShot와 동등하거나 뛰어났다.
• 5-way 50-shot 작업에서 unicorn-MAML는 Mini ImageNet에서 92.86%의 정확도를 기록하여 표준 MAML(92.14%)과 기존 기준 모델을 모두 능가했다.
• 교차 데이터셋 전이(소수의 샘플로 Mini ImageNet → CUB)에서 unicorn-MAML는 5-shot에서 75.67%의 정확도를 기록하여 표준 MAML(73.86%)과 ProtoNet(72.02%)를 모두 능가했다.