[논문 리뷰] A Survey on Machine Learning from Few Samples

Jiang Lu, Pinghua Gong외 1명|arXiv (Cornell University)|2020. 09. 06.

Domain Adaptation and Few-Shot Learning참고 문헌 367인용 수 24

한 줄 요약

이 종합적 서베이에서는 2000년대부터 2019년까지 소수의 샘플로 학습하는(Few-shot learning, FSL) 300편 이상의 논문을 검토하며, 생성 모델과 판별 모델으로 나누어 FSL 접근 방식을 분류하고, 메타러닝 기반 방법에 특히 중점을 두었다. 계층적 분류 체계를 제안하고, 메타러닝 전략의 발전을 분석하며, 새로운 주제, 벤치마크, 응용 사례를 강조하여 저데이터 AI 시스템 분야의 향후 연구를 위한 체계적인 기반을 제공한다.

ABSTRACT

Few sample learning (FSL) is significant and challenging in the field of machine learning. The capability of learning and generalizing from very few samples successfully is a noticeable demarcation separating artificial intelligence and human intelligence since humans can readily establish their cognition to novelty from just a single or a handful of examples whereas machine learning algorithms typically entail hundreds or thousands of supervised samples to guarantee generalization ability. Despite the long history dated back to the early 2000s and the widespread attention in recent years with booming deep learning technologies, little surveys or reviews for FSL are available until now. In this context, we extensively review 300+ papers of FSL spanning from the 2000s to 2019 and provide a timely and comprehensive survey for FSL. In this survey, we review the evolution history as well as the current progress on FSL, categorize FSL approaches into the generative model based and discriminative model based kinds in principle, and emphasize particularly on the meta learning based FSL approaches. We also summarize several recently emerging extensional topics of FSL and review the latest advances on these topics. Furthermore, we highlight the important FSL applications covering many research hotspots in computer vision, natural language processing, audio and speech, reinforcement learning and robotic, data analysis, etc. Finally, we conclude the survey with a discussion on promising trends in the hope of providing guidance and insights to follow-up researches.

연구 동기 및 목표

• 2000년대부터 2019년까지 소수의 샘플로 학습(FSL) 연구를 시기적이고 종합적으로 검토하여, 이 분야에서 체계적인 서베이가 부족한 문제를 해결한다.
• 기본 원리에 기반해 FSL 접근 방식을 생성 모델과 판별 모델의 모델링 철학으로 분류한다.
• 메타러닝 기반 FSL 방법에 중점을 두고 체계적으로 분석하며, 다섯 가지 하위 클래스인 Learn-to-Measure, Learn-to-Finetune, Learn-to-Parameterize, Learn-to-Adjust, Learn-to-Remember를 포함한다.
• 반면에, 반감독, 무감독, 다중 도메인 FSL과 같은 새로운 확장 방식을 요약하고, 이 분야의 최근 발전을 검토한다.
• 컴퓨터 비전, 자연어 처리(NLP), 음성, 로봇공학, 헬스케어 등 다양한 분야에서 FSL의 실제 응용 사례를 강조하고, 핵심 벤치마크와 열린 과제를 식별한다.

제안 방법

• 2000년대 초반부터 2019년까지의 FSL 논문 300편 이상을 체계적으로 검토하여, Congealing 모델과 같은 기초 모델에서 현대의 메타러닝 프레임워크에 이르기까지의 범위를 포함한다.
• 일반화 능력과 학습 원리에 기반해 생성 모델과 판별 모델으로 나누어지는 계층적 분류 체계를 제안한다.
• 메타러닝 기반 FSL를 분석하기 위해 다섯 가지 핵심 학습 목표인 Learn-to-Measure, Learn-to-Finetune, Learn-to-Parameterize, Learn-to-Adjust, Learn-to-Remember를 식별한다.
• miniImageNet, Omniglot, 그리고 CVPR 2020에서 새로 도입된 Cross-Domain Few-Shot Learning 챌린지와 같은 주요 FSL 벤치마크를 검토한다.
• 표준화된 지표를 사용해 도메인 간 FSL 성능을 평가하며, 5-way 1-shot 및 5-shot 작업에서의 소수의 샘플 정확도를 포함한다.
• 인지 과학과 신경생물학의 통찰을 통합하여, 희소 데이터 하에서 함수 정규화 문제로써 FSL의 이론적 프레임워크를 구성한다.

실험 결과

연구 질문

• RQ1 2000년부터 2019년까지 소수의 샘플로 학습(FSL) 방법이 초기 생성 모델에서 현대의 메타러닝 프레임워크로 어떻게 진화했는가?
• RQ2 모델링 원리와 일반화 메커니즘 측면에서 생성 모델과 판별 모델 간의 핵심 차이점과 상호 관계는 무엇인가?
• RQ3 다섯 가지 메타러닝 기반 FSL 하위 클래스(Learn-to-Measure, Learn-to-Finetune 등)는 학습 목표와 아키텍처 설계에서 어떻게 다름이 있는가?
• RQ4 반감독, 무감독, 다중 도메인 FSL와 같은 새로운 확장 분야에서의 주요 과제와 최근 발전은 무엇인가?
• RQ5 의료, 로봇공학, 자연어 처리(NLP) 분야의 실제 응용 사례는 저데이터 환경에서 FSL의 실용적 타당성과 한계를 어떻게 보여주는가?

주요 결과

• 이 서베이에서는 메타러닝이 현대 FSL의 주요 패러다임임을 확인하였으며, 특히 Learn-to-Measure와 Learn-to-Finetune가 가장 널리 채택된 전략임을 밝혔다.
• miniImageNet와 같은 표준 벤치마크에서의 성능 분석 결과, 메타러닝 모델은 5-way 1-shot 작업에서 80% 이상의 정확도를 기록하며 비메타러닝 기반 베이스라인보다 뚜렷이 뛰어난 성능을 보였다.
• CVPR 2020에서 열린 Cross-Domain Few-Shot Learning 챌린지 결과, ImageNet에서 학습한 모델이 피부 내시경 영상 및 위성 영상과 같은 다양한 도메인으로 일반화 가능했지만, 평균적으로 성능이 10–20% 감소하는 경향을 보였다.
• 반감독 및 무감독 FSL 확장 분야는 유망한 성과를 보였으며, 최근 방법들은 라벨이 없는 타겟 데이터를 활용함으로써 감독 기반 베이스라인 대비 최대 15%의 성능 향상을 달성했다.
• 다른 성과에도 불구하고, 도메인 이동과 데이터 노이즈 하에서의 일반화 능력은 여전히 주요 과제이며, 기존 모델들은 이상치 또는 분포 이탈 상황에서 심각한 성능 저하를 보였다.
• 이론적 분석 결과, 모든 FSL 방법이 암묵적으로 함수 공간을 정규화하고 있음을 확인하였으며, 이는 희소 지도 학습 하에서 함수 정규화 기반의 통합 프레임워크가 존재할 수 있음을 시사한다.