[논문 리뷰] On Episodes, Prototypical Networks, and Few-shot Learning

Steinar Laenen, Luca Bertinetto|arXiv (Cornell University)|2020. 12. 17.

Domain Adaptation and Few-Shot Learning참고 문헌 57인용 수 15

한 줄 요약

이 논문은 소수의 샘플로 학습하는 경우에 에피소드 학습이 반드시 필요하다는 점을 도전하며, 에피소드 손실을 제거하고 NCA(Neighbourhood Component Analysis)를 사용함으로써 비모수적 방법인 프로토타입 및 매칭 네트워크가 훨씬 더 잘 작동함을 보여줍니다. 저자들은 NCA를 도입함으로써 더 단순한 모델과 더 적은 초파rameter를 사용하여 miniImageNet, CIFAR-FS, tieredImageNet에서 최신 기준 성능을 달성합니다.

ABSTRACT

Episodic learning is a popular practice among researchers and practitioners interested in few-shot learning. It consists of organising training in a series of learning problems (or episodes), each divided into a small training and validation subset to mimic the circumstances encountered during evaluation. But is this always necessary? In this paper, we investigate the usefulness of episodic learning in methods which use nonparametric approaches, such as nearest neighbours, at the level of the episode. For these methods, we not only show how the constraints imposed by episodic learning are not necessary, but that they in fact lead to a data-inefficient way of exploiting training batches. We conduct a wide range of ablative experiments with Matching and Prototypical Networks, two of the most popular methods that use nonparametric approaches at the level of the episode. Their "non-episodic" counterparts are considerably simpler, have less hyperparameters, and improve their performance in multiple few-shot classification datasets.

연구 동기 및 목표

• 비모수적 소수의 샘플로 학습하는 방법인 프로토타입 및 매칭 네트워크에서 에피소드 학습이 진정으로 필수적인지 조사하기 위해.
• 에피소드 학습에서 지원-질의 분리로 인해 발생하는 성능 저하를 규명하기 위해.
• NCA를 기반으로 한 비에피소드 학습이 모델 복잡도를 줄이며 에피소드 기반 기준선을 능가할 수 있는지 평가하기 위해.
• 에피소드 학습이 훈련 배치의 자원을 비효율적으로 사용한다는 점을 입증하기 위해, 즉 유용한 쌍별 거리 정보를 기각한다는 점을 밝히기 위해.
• 메타학습과 초파rameter가 많은 에피소드 설계를 피하는 간단하고 효과적인 기준 성능을 제공하기 위해.

제안 방법

• 프로토타입 및 매칭 네트워크의 에피소드 학습을 비에피소드적 거리 학습 목표인 NCA(Neighbourhood Component Analysis)로 대체하기.
• 지원 및 질의 세트로 나누지 않고 전체 배치에서 표준 크로스 엔트로피 손실을 사용해 특징 추출기 학습하기.
• 배치 내 모든 이용 가능한 예시를 기반으로 클래스별 중심점 또는 최근접 이웃 결정을 위한 NCA 손실 최적화하기.
• 모델을 전체 배치에서 엔드 투 엔드로 학습시켜, 에피소드 방법이 많은 거리를 기각하는 것과는 달리 모든 쌍별 거리가 손실에 기여하도록 하기.
• 표준 소수의 샘플로 학습 벤치마크인 miniImageNet, CIFAR-FS, tieredImageNet에서 비에피소드 모델의 성능 평가하기.
• 원래의 에피소드 기반 버전과 최근 최신 기준 성능 모델들과의 성능 비교를 통해 정확도와 초파rameter 민감도에 중점을 두기.

실험 결과

연구 질문

• RQ1 비모수적 소수의 샘플로 학습하는 방법인 프로토타입 및 매칭 네트워크에서 에피소드 학습이 자료 효율성을 저하시키는가?
• RQ2 NCA 기반의 비에피소드 학습 전략이 추가적인 복잡성을 도입하지 않고도 에피소드 기반 기준선을 능가할 수 있는가?
• RQ3 에피소드에서의 지원-질의 분할이 학습에 사용되는 유용한 쌍별 거리의 수를 어느 정도 줄이는가?
• RQ4 에피소드 모델은 웨이즈, 셔츠, 질의 수 등의 초파라미터에 얼마나 민감한가?
• RQ5 더 단순한 비에피소드 기반 기준 성능이 표준 소수의 샘플로 학습 벤치마크에서 경쟁 가능한 성능을 달성할 수 있는가?

주요 결과

• NCA 손실을 사용한 비에피소드 학습이 miniImageNet, CIFAR-FS, tieredImageNet에서 원래의 에피소드 기반 프로토타입 및 매칭 네트워크를 능가합니다.
• 성능 향상은 배치 내 모든 쌍별 거리를 활용함으로써 발생하며, 반면 에피소드 학습은 가능한 거리의 최대 절반을 기각합니다.
• 에피소드 학습은 실제로 많은 양의 훈련 샘플을 무작위로 기각하는 것과 동일한 결과를 낳으며, 이는 자료 비효율성의 원인입니다.
• 비에피소드 기반 NCA 방법은 에피소드 변형 대비 더 적은 초파라미터를 가지며, 훨씬 더 단순하게 학습할 수 있습니다.
• 비에피소드 모델은 메타학습이나 테스트 시 적응 없이도 최신 기준 성능 모델과 경쟁 가능한 정확도를 달성합니다.
• 에피소드 전략은 상당한 초파라미터 민감도를 유발하지만, 이는 비에피소드 NCA 접근 방식에서는 제거됩니다.