[논문 리뷰] Meta-Learning without Memorization

Mingzhang Yin, George Tucker외 3명|arXiv (Cornell University)|2019. 12. 09.

Domain Adaptation and Few-Shot Learning참고 문헌 36인용 수 72

한 줄 요약

이 논문은 메타학습에서 비상호배타적 과제에서 기억화(memorization)를 핵심 실패 모드로 식별하고, 정보이론 기반의 메타-정규화(Meta-regularizers)를 제안하여 task-data 기반의 적응을 강제하고, challenging 설정에서 MAML와 CNP의 성능을 향상시킵니다.

ABSTRACT

The ability to learn new concepts with small amounts of data is a critical aspect of intelligence that has proven challenging for deep learning methods. Meta-learning has emerged as a promising technique for leveraging data from previous tasks to enable efficient learning of new tasks. However, most meta-learning algorithms implicitly require that the meta-training tasks be mutually-exclusive, such that no single model can solve all of the tasks at once. For example, when creating tasks for few-shot image classification, prior work uses a per-task random assignment of image classes to N-way classification labels. If this is not done, the meta-learner can ignore the task training data and learn a single model that performs all of the meta-training tasks zero-shot, but does not adapt effectively to new image classes. This requirement means that the user must take great care in designing the tasks, for example by shuffling labels or removing task identifying information from the inputs. In some domains, this makes meta-learning entirely inapplicable. In this paper, we address this challenge by designing a meta-regularization objective using information theory that places precedence on data-driven adaptation. This causes the meta-learner to decide what must be learned from the task training data and what should be inferred from the task testing input. By doing so, our algorithm can successfully use data from non-mutually-exclusive tasks to efficiently adapt to novel tasks. We demonstrate its applicability to both contextual and gradient-based meta-learning algorithms, and apply it in practical settings where applying standard meta-learning has been difficult. Our approach substantially outperforms standard meta-learning algorithms in these settings.

연구 동기 및 목표

• 메타학습에서 기억화 문제를 형식화하고 이를 표준 감독 학습 과적합과 구분한다.
• 데이터 기반의 적응을 촉진하기 위한 정보이론을 활용한 일반적인 메타-정규화 목표를 제시한다.
• 메타-정규화가 PAC-Bayes 일반화 한계에 의해 동기가 될 수 있음을 보인다.
• 비상호배타적 과제에서 그래디언트 기반 및 맥락적 메타학습 모두에 대해 메타-정규화 방법의 상당한 성능 향상을 입증한다.

제안 방법

• 활성화에 대한 Eq.를 통해 연구된 z*의 신호를 증가시키고 I(y*; D | z*, θ)를 증가시켜 기억화를 방지하는 확률적 병목을 도입한다.
• q(z*|x*, θ)에서 r(z*)에 대한 KL 발산 페널티로 계산 가능한 메타-정규화 항을 도출하여 규제된 손실(Eq. 3)을 얻는다.
• 메타 매개변수 θ에 대한 메타-정규화를 제안하여 I(y1:N, D1:N; θ | x*1:N)를 사전과의 KL 항으로 한정한다(Eq. 4).
• 활성화- 및 가중치 기반 정규화를 하나의 MR 목표(Eq. 5)로 결합하고 MAML(가중치) 및 CNP(인코더)에 적용하며 부록에 알고리즘을 제시한다.
• PAC-Bayes 한계를 통해 MR이 일반화를 개선한다는 이론적 근거를 제공하는 정리 1을 제시한다.
• 비상호배타적 과제 전반에 걸쳐 MR-MAML(W) 및 MR-CNP 변형에 적용 가능성을 보인다.

실험 결과

연구 질문

• RQ1 메타학습 알고리즘과 도메인 전반에서 기억화 문제의 보편성은 얼마나 되는가?
• RQ2 비상호배타적 과제 분포에서 메타-정규화가 기억화를 완화할 수 있는가?
• RQ3 제안된 메타-정규화가 그래디언트 기반 및 맥락적 메타학습 방법 모두와 호환되는가?
• RQ4 PAC-Bayes 분석이 시사하는 대로 메타-정규화가 일반화 보장을 향상시키는가?

주요 결과

• 메모리화는 비상호배타적 과제에서 MAML과 CNP에 상당한 도전과제를 제시하며, 때로는 테스트가 거의 무작위 수준으로 떨어지기도 한다.
• 메타-정규화된 MAML 및 CNP(MR-MAML 및 MR-CNP)는 비상호배타적 과제에서 효율적인 적응과 강력한 일반화를 달성하여 비정규화된 기준선보다 크게 우수하다.
• 가중치에 대한 메타-정규화(MR-MAML(W))는 학습률 설정에 관계없이 일반적으로 적응 해에 안정적으로 수렴하는 경향이 있는 반면, 활성화 기반 MR은 하이퍼파라미터에 더 민감할 수 있다.
• PAC-Bayes 분석은 MR이 일반화 한계를 개선한다는 이론적 근거를 제공하며, 가중치에 대한 KL 페널티를 더 촘촘한 일반화 보장으로 연결한다.