[논문 리뷰] A Comprehensive Survey of Few-shot Learning: Evolution, Applications, Challenges, and Opportunities

Yisheng Song, Ting Wang외 2명|arXiv (Cornell University)|2022. 05. 13.

Domain Adaptation and Few-Shot Learning인용 수 24

한 줄 요약

이 논문은 최근 200편 이상의 few-shot learning(FSL) 연구를 조사하고 지식 추상화를 기반으로 한 분류체계를 제시하며, 도전 과제, 응용 분야 및 향후 기회를 자세히 설명하고, 컴퓨터 비전에서의 교차 도메인 및 다중 모달 측면에 중점을 둡니다.

ABSTRACT

Few-shot learning (FSL) has emerged as an effective learning method and shows great potential. Despite the recent creative works in tackling FSL tasks, learning valid information rapidly from just a few or even zero samples still remains a serious challenge. In this context, we extensively investigated 200+ latest papers on FSL published in the past three years, aiming to present a timely and comprehensive overview of the most recent advances in FSL along with impartial comparisons of the strengths and weaknesses of the existing works. For the sake of avoiding conceptual confusion, we first elaborate and compare a set of similar concepts including few-shot learning, transfer learning, and meta-learning. Furthermore, we propose a novel taxonomy to classify the existing work according to the level of abstraction of knowledge in accordance with the challenges of FSL. To enrich this survey, in each subsection we provide in-depth analysis and insightful discussion about recent advances on these topics. Moreover, taking computer vision as an example, we highlight the important application of FSL, covering various research hotspots. Finally, we conclude the survey with unique insights into the technology evolution trends together with potential future research opportunities in the hope of providing guidance to follow-up research.

연구 동기 및 목표

• few-shot learning, transfer learning, and meta-learning 간의 정의와 관계를 명확히 하여 개념적 혼란을 줄인다.
• 지식 추상화 수준과 도전 과제별로 구성된 FSL의 분류체계를 제안한다.
• 최근 FSL 연구(200편 이상)를 체계적으로 검토하고 발전, 강점, 약점을 요약한다.
• cross-domain 및 multimodal FSL을 주요 방향으로 강조하고 이를 컴퓨터 비전의 실제 응용과 연계한다.
• FSL의 미래 연구 기회와 진화 동향을 식별한다.

제안 방법

• 지난 3년간 200편 이상의 FSL 논문에 대한 광범위한 문헌 연구.
• FSL의 지식 추상화 수준과 도전 과제에 기반한 새로운 분류체계를 개발한다.
• 지식 그래프와 히트맵을 사용하여 접근법을 비교·대조한다.
• 데이터 증강, 전이 학습, 메타 학습, 다중 모달 학습에 기반한 섹션별 분석.
• 이미지 분류, 객체 탐지, 세분화와 같은 컴퓨터 비전 작업에서의 응용을 시각화한다.

Figure 1: The conceptual map of the survey.

실험 결과

연구 질문

• RQ1 Few-shot learning이 무엇이며 그것이 머신 러닝, 전이 학습, 메타 학습과 어떤 관계가 있는가?
• RQ2 FSL의 주요 변형과 벤치마크는 무엇이며 최근에 어떻게 발전해 왔는가?
• RQ3 도전 과제와 지식 추상화의 관점에서 FSL을 분류학적으로 어떻게 분류할 수 있는가?
• RQ4 데이터 증강, 전이 학습, 메타 학습, 다중 모달 학습은 주요 도전 과제를 어떻게 다루는가?
• RQ5 교차 도메인 및 컴퓨터 비전 응용에 중점을 두고 FSL의 현재 발전과 향후 기회는 무엇인가?

주요 결과

• 본 조사 논문은 최근 FSL의 진전 상황에 대해 시의적절하고 편향되지 않은 개요를 제공하며, 다양한 연구의 강점과 약점을 비교한다.
• 지식 추상화 수준과 도전 과제별로, 다중 모달 수준을 포함한 새로운 분류체계가 FSL을 정리한다.
• 교차 도메인 FSL과 다중 모달 학습은 특히 도전적이고 유망한 방향으로 강조된다.
• 데이터 증강, 전이 학습, 메타 학습은 각각 FSL의 고유한 측면을 다루는 단일 모달 접근으로 분석된다.
• 본 논문은 이미지 분류, 객체 탐지, 세분화 및 인스턴스 분할과 같은 컴퓨터 비전 작업에서의 FSL 진전을 기록한다.

Figure 2: The number of FSL-related papers published in prestigious journals from 2010 to the first half of 2021, excluding citations.