[논문 리뷰] A Comprehensive Overview and Survey of Recent Advances in Meta-Learning

Huimin Peng|arXiv (Cornell University)|2020. 04. 17.

Domain Adaptation and Few-Shot Learning참고 문헌 123인용 수 37

한 줄 요약

이 설문조사는 메타학습 방법론, 분류 체계, 데이터셋 및 응용에 대해 리뷰하며, 소샷 학습과 다른 ML 프레임워크와의 통합에 중점을 둡니다.

ABSTRACT

This article reviews meta-learning also known as learning-to-learn which seeks rapid and accurate model adaptation to unseen tasks with applications in highly automated AI, few-shot learning, natural language processing and robotics. Unlike deep learning, meta-learning can be applied to few-shot high-dimensional datasets and considers further improving model generalization to unseen tasks. Deep learning is focused upon in-sample prediction and meta-learning concerns model adaptation for out-of-sample prediction. Meta-learning can continually perform self-improvement to achieve highly autonomous AI. Meta-learning may serve as an additional generalization block complementary for original deep learning model. Meta-learning seeks adaptation of machine learning models to unseen tasks which are vastly different from trained tasks. Meta-learning with coevolution between agent and environment provides solutions for complex tasks unsolvable by training from scratch. Meta-learning methodology covers a wide range of great minds and thoughts. We briefly introduce meta-learning methodologies in the following categories: black-box meta-learning, metric-based meta-learning, layered meta-learning and Bayesian meta-learning framework. Recent applications concentrate upon the integration of meta-learning with other machine learning framework to provide feasible integrated problem solutions. We briefly present recent meta-learning advances and discuss potential future research directions.

연구 동기 및 목표

• unseen tasks에 대한 신속한 적응을 위한 메타학습의 동기 부여와 정의 및 목표 설정.
• 모델 기반, 거리 기반(metric-based), 최적화 기반, 및 베이지안 프레임워크로 메타학습 접근법 분류.
• 소샷 메타학습과 에피소드 기반 훈련에 사용되는 데이터셋과 형식을 요약합니다.
• 메타학습이 강화학습, 모방학습, 온라인 학습 및 자율학습에 어떻게 통합되는지 개요합니다.
• 향후 연구 방향과 일반 AI에 미칠 잠재적 영향에 주목합니다.

제안 방법

• 메타학습 방법론을 네 가지 넓은 범주로 분류합니다: 모델 기반, 거리 기반(metric-based), 계층화/최적화 기반, 및 베이지안 메타학습.
• 메모리 보강 네트워크, 시암대/프로토타입/매칭 네트워크, MAML 및 그 변형, 베이지안 확장을 포함한 대표적 방법들을 논의합니다.
• 소샷 학습을 위한 에피소드 학습과 지원(set)/쿼리(query) 세트를 포함한 메타 학습/검증/테스트 워크플로를 설명합니다.
• 작업 간 유사도 모델링의 역할과 그것이 작업 간 빠른 적응을 어떻게 이끄는지 검토합니다.
• 메타-RL 및 메타 모방 학습에서의 응용과 비지도 학습 및 온라인 메타학습도 요약합니다.

실험 결과

연구 질문

• RQ1 메타학습의 주요 방법론 범주와 그 핵심 메커니즘은 무엇인가?
• RQ2 소샷 학습 프레임워크는 에피소드 학습을 사용하여 작업 간 빠른 적응을 어떻게 가능하게 하는가?
• RQ3 특히 이미지 분류를 위한 메타학습 방법의 평가에 일반적으로 사용되는 데이터셋과 벤치마크는 무엇인가?
• RQ4 메타학습을 강화학습, 모방학습, 온라인 학습, 비지도 학습과 같은 다른 ML 패러다임과 어떻게 통합할 수 있는가?
• RQ5 향후 메타학습 연구에서 식별된 유망한 방향과 도전과제는 무엇인가?

주요 결과

• 메타학습 방법은 모델 기반, 거리 기반(metric-based), 계층화/최적화 기반, 및 베이지안 프레임워크로 넓게 분류됩니다.
• MAML은 SGD로 학습된 모든 학습기에서 적용 가능한 저해석적 모델-불가지 논쟁이 없는 대표적 접근으로 강조됩니다.
• 소샷 학습은 최근의 주된 초점이며, miniImageNet 및 tieredImageNet와 같은 데이터셋이 평가에 일반적으로 사용됩니다.
• 메타학습은 메타-RL, 메타 모방 학습, 온라인/비지도 메타학습 등과 같은 다른 ML 프레임워크와 점차적으로 통합되고 있습니다.
• 작업 간 일반화를 가능하게 하는 작업 간 유사도 모델링에 대한 강조가 커지고 있습니다.