[논문 리뷰] Meta-Learning Requires Meta-Augmentation

Janarthanan Rajendran, Alex Irpan외 1명|arXiv (Cornell University)|2020. 07. 10.

Domain Adaptation and Few-Shot Learning참고 문헌 34인용 수 37

한 줄 요약

본 논문은 meta-augmentation이라는 정보 이론적 프레임워크를 제시한다. 이는 라벨(입력은 아님)에 무작위성을 추가해 메타 학습의 memorization과 학습자 overfitting을 방지하고, few-shot 벤치마크에서 강력한 이득을 보여준다.

ABSTRACT

Meta-learning algorithms aim to learn two components: a model that predicts targets for a task, and a base learner that quickly updates that model when given examples from a new task. This additional level of learning can be powerful, but it also creates another potential source for overfitting, since we can now overfit in either the model or the base learner. We describe both of these forms of metalearning overfitting, and demonstrate that they appear experimentally in common meta-learning benchmarks. We then use an information-theoretic framework to discuss meta-augmentation, a way to add randomness that discourages the base learner and model from learning trivial solutions that do not generalize to new tasks. We demonstrate that meta-augmentation produces large complementary benefits to recently proposed meta-regularization techniques.

연구 동기 및 목표

• 메타 러닝이 두 차원에서 과적합될 수 있음을 동기 부여하고 형식화한다: 모델 수준의 memorization(기억화)과 기본 학습자 수준의 learner overfitting.
• 라벨에 무작위성을 주입하여 작업 분포를 다양화하는 수단으로 meta-augmentation을 제안하고, 그로써 서포트 세트에 의존하도록 만든다.
• CE-increasing augmentations가 과적합을 줄이고 기존의 메타 정규화 방법을 보완하는 정보 이론적 관점을 제공한다.
• few-shot 이미지 분류 및 회귀 벤치마크 전반에서 meta-augmentation을 실증적으로 검증하고, 정규화와의 상호 작용을 분석한다.

제안 방법

• 메타 학습 설정에서 CE-preserving과 CE-increasing 증강을 정의한다.
• 라벨을 암호화하는 랜덤 비트 epsilon를 통해 작업 분포를 확장하는 방식으로 meta-augmentation을 모델링하고, 서포트 데이터에 의존하도록 강제한다.
• 가역 매핑하에서 CE-increasing augmentation은 조건 엔트로피 H(Y'|X)을 H(epsilon)만큼 증가시킨다는 이론적 증명을 제시한다.
• 테스트 시 Y'를 복원하기 위해서는 학습자가 (x_s, y'_s)로부터 정보를 추출해야 하므로 memorization overfitting이 감소한다.
• CE-increasing augmentation을 적용해 비상호배타적(non-mutually-exclusive) 작업을 상호배타적인 것으로 바꿔 기본 학습자에 대한 의존성을 증가시킨다.

실험 결과

연구 질문

• RQ1 비상호배타적(non-mutually-exclusive) 메타러닝 작업이 기억화로 이어지는가, 그리고 meta-augmentation이 이를 어떻게 완화할 수 있는가?
• RQ2 CE-increasing meta-augmentation이 메모리화 과적합과 학습자 과적합을 모든 벤치마크에서 동시에 감소시킬 수 있는가?
• RQ3 메타-정규화 방법(예: 정보 병목) 및 다양한 메타 학습 알고리즘과 메타-augmentation의 상호 작용은 어떠한가?
• RQ4 few-shot 분류 및 회귀 task에서 meta-augmentation이 어떠한 실증적 이득을 주는가?
• RQ5 다양한 작업 샘플링 전략(intershuffle, intrashuffle, vs non-mutually-exclusive)이 meta-augmentation 하에서 성능에 어떤 영향을 미치는가?

주요 결과

문제 설정	비상호배타적 정확도	Intrashuffle 정확도	Intershuffle 정확도
Omniglot	98.1%	98.5%	98.7%
Mini-ImageNet (MAML)	30.2%	42.7%	46.0%
Mini-ImageNet (Prototypical)	32.5%	32.5%	37.2%
Mini-ImageNet (Matching)	33.8%	33.8%	39.8%
D’Claw	72.5%	79.8%	83.1%

• Meta-augmentation은 여러 벤치마크(Omniglot, Mini-ImageNet, D’Claw)에서 비증강 baselines에 비해 상당한 향상을 제공합니다.
• 비상호배타적 작업은 기억화와 학습자 과적합을 보이며, intershuffle(전체 작업 무작위화)은 둘 다를 완화하고, intrashuffle은 중간 정도의 이득을 보인다.
• CE-increasing augmentation은 Y'가 X에 대해 가지는 조건 엔트로피를 증가시켜, 여러 작업에 걸쳐 Y'를 예측하기 위해 서포트 데이터의 사용을 강요한다.
• CE-increasing meta-augmentation은 정보 병목 같은 메타 정규화 기법과 보완적으로 작용하여 종종 추가 이득을 제공한다.
• 회귀 과제(Sinusoid, Pascal3D Pose)에서 타깃에 노이즈를 추가하면 과적합이 감소하고 메타 일반화가 개선된다.
• 메타-증강으로 만들어진 상호배타적 작업 설정은 MAML, CNP 및 기타 메타러너의 일반화를 향상시키며, 여러 기준선에서 성능 향상이 지속된다.
• 가중치 감소(weight decay)나 정규화 매개변수를 다르게 해도 meta-augmentation은 기억화 및 학습자 과적합을 피하는 데 도움이 된다.