[논문 리뷰] Few-Shot Learning Through an Information Retrieval Lens

Eleni Triantafillou, Richard S. Zemel외 1명|arXiv (Cornell University)|2017. 07. 09.

Domain Adaptation and Few-Shot Learning참고 문헌 22인용 수 66

한 줄 요약

논문은 few-shot 학습을 정보 검색(task)으로 재구성하고 SSVM 또는 직접 손실 최소화를 사용하여 배치 랭킹 전체에서 평균 정밀도(mAP)를 최대화하도록 학습하여 경쟁력 있는 few-shot 분류를 달성하고, few-shot 검색 설정을 도입한다.

ABSTRACT

Few-shot learning refers to understanding new concepts from only a few examples. We propose an information retrieval-inspired approach for this problem that is motivated by the increased importance of maximally leveraging all the available information in this low-data regime. We define a training objective that aims to extract as much information as possible from each training batch by effectively optimizing over all relative orderings of the batch points simultaneously. In particular, we view each batch point as a `query' that ranks the remaining ones based on its predicted relevance to them and we define a model within the framework of structured prediction to optimize mean Average Precision over these rankings. Our method achieves impressive results on the standard few-shot classification benchmarks while is also capable of few-shot retrieval.

연구 동기 및 목표

• 동기: 배치 정보를 충분히 활용하는 방식으로 매우 적은 수의 라벨링된 예제로 새로운 개념을 학습한다.
• 목표: 배치 포인트 간의 랭킹으로 few-shot 학습을 형식화하여 mAP를 최대화한다.
• 접근법: 각 학습 배치에서 모든 상대적 순서를 SSVM과 Direct Loss Minimization으로 최적화한다.
• 확장: 질의가 보지 못한 클래스의 후보를 관련성에 따라 순위를 매기는 few-shot retrieval 작업을 도입한다.

제안 방법

• 각 배치 구성원을 예측된 관련성으로 다른 배치 포인트의 순위를 매는 질의로 표현한다.
• 구조적 예측 프레임워크를 채택하고 평균 정밀도(mAP)를 최적화한다.
• 두 가지 최적화 변형을 사용: 구조적 SVM(SSVM) 및 Direct Loss Minimization(DLM).
• 코사인 유사도 기반 임베딩 함수 f(x,w)와 쌍별 스코어링 함수 φ(xi,xj,w)를 정의한다.
• AP 최적화를 배치-단위 다중 질의 설정으로 확장하여 각 배치가 전체 mAP 목표에 독립적으로 기여하도록 한다.
• 선행 AP 최적화 작업에서 영감을 받은 동적 프로그래밍 접근법을 통한 손실 강화 추론을 제공한다.

실험 결과

연구 질문

• RQ1 정보 검색 목표(mAP)를 배치 설정에서 few-shot 학습에 효과적으로 optim화할 수 있는가?
• RQ2 배치 내의 모든 상대 순서를 최적화하는 것이 경쟁력 있는 few-shot 분류 성능을 낳는가?
• RQ3 동일 프레임워크가 보지 않은 클래스의 질의가 주어진 새로운 few-shot 검색 작업을 지원할 수 있는가?
• RQ4 이 목표에 대해 SSVM과 Direct Loss Minimization 간의 트레이드오프는 실제로 어떠한가?

주요 결과

• 제안된 mAP 기반 학습 목표가 표준 few-shot 분류 벤치마크에서 경쟁력 있는 결과를 낳는다.
• 이 방법은 강력한 베이스라인에 비해 경쟁력 있는 성능으로 새로운 few-shot retrieval 작업을 지원한다.
• 각 배치에서 모든 상대 순서를 최적화하는 것이 각 질의 랭킹을 병렬로 분해하여 효율적으로 수행될 수 있다.
• mAP-DLM과 mAP-SSVM은 평가된 벤치마크에서 유사한 성능을 보이며, 일부 설정에서 학습 효율성 이점이 관찰된다.
• 이 접근법은 강력한 모든-쌍 Siamese 베이스라인에 비해 데이터가 적은 환경에서 더 빠른 학습과 더 나은 효율성을 보여준다.