[논문 리뷰] BI-MAML: Balanced Incremental Approach for Meta Learning

Yang Zheng, Jinlin Xiang외 2명|arXiv (Cornell University)|2020. 06. 12.

Domain Adaptation and Few-Shot Learning참고 문헌 23인용 수 5

한 줄 요약

BI-MAML는 재난적 기억상실을 방지하면서 소수의 예시로 새로운 작업에 빠르게 적응할 수 있도록, 증분 학습과 모델에 종속되지 않는 메타학습을 결합한 새로운 메타학습 프레임워크를 제안한다. 기준 모델에 대해 균형 잡힌 학습 전략과 세 단계의 훈련 과정(기준, 미세조정, 적응)을 사용함으로써, MNIST, SVHN, CIFAR-100에서 최신 기술 수준의 정확도와 효율성을 달성한다.

ABSTRACT

We present a novel Balanced Incremental Model Agnostic Meta Learning system (BI-MAML) for learning multiple tasks. Our method implements a meta-update rule to incrementally adapt its model to new tasks without forgetting old tasks. Such a capability is not possible in current state-of-the-art MAML approaches. These methods effectively adapt to new tasks, however, suffer from 'catastrophic forgetting' phenomena, in which new tasks that are streamed into the model degrade the performance of the model on previously learned tasks. Our system performs the meta-updates with only a few-shots and can successfully accomplish them. Our key idea for achieving this is the design of balanced learning strategy for the baseline model. The strategy sets the baseline model to perform equally well on various tasks and incorporates time efficiency. The balanced learning strategy enables BI-MAML to both outperform other state-of-the-art models in terms of classification accuracy for existing tasks and also accomplish efficient adaption to similar new tasks with less required shots. We evaluate BI-MAML by conducting comparisons on two common benchmark datasets with multiple number of image classification tasks. BI-MAML performance demonstrates advantages in both accuracy and efficiency.

연구 동기 및 목표

• 기존에 학습한 작업의 성능이 저하되지 않도록 하면서 메타학습에서 재난적 기억상실 문제를 해결하기 위해 지속적인 학습이 가능한 방법을 제안한다.
• 증분 학습과 메타학습의 장점을 융합하여 장기적인 지식 유지와 소수의 예시로 새로운 작업에 빠르게 적응할 수 있는 능력을 제공한다.
• 다양한 작업에 대해 동일한 성능을 보장하는 균형 잡힌 학습 전략을 도입함으로써 훈련 효율성과 모델 일반화 능력을 향상시킨다.
• 기준 데이터셋에서의 증분 분류 정확도와 소수의 예시로 새로운 작업에 적응하는 능력(메타테스트) 모두에서 최신 기술 수준의 성능을 달성한다.

제안 방법

• 세 단계 훈련 파이프라인을 구현한다: (1) 기준—기존 작업에서의 성능을 유지하면서 새로운 작업에 대해 공유 기준 모델 $M_B$를 증분적으로 훈련한다. 이 과정에서 과거 작업 샘플의 고정 크기 메모리 세트를 사용한다.
• 미세조정 단계에서 저장된 메모리 샘플을 사용하여 $M_B$를 작업에 특화된 하위 모델 $M_F$로 적응시켜 이전에 학습한 작업의 성능을 향상시킨다.
• 기준 훈련 단계에서 균형 잡힌 학습 전략을 적용하여 모델이 모든 작업에 대해 동일하게 일반화되도록 하여 성능 변동성을 감소시키고 안정성을 향상시킨다.
• 소수의 예시로 새로운 작업에서만 $M_B$를 업데이트하여 새로운 적응 모델 $M_A$를 생성함으로써 메타적 적응을 수행한다. 이는 소수의 예시로도 신속한 일반화를 가능하게 한다.
• 메타학습 원칙인 MAML을 적응 단계에 적용하지만, 증분 학습과 기억상실 방지를 지원하기 위해 메타 업데이트 규칙을 수정한다.
• 모든 이전에 본 작업의 대표적인 샘플을 저장하기 위해 고정 크기의 버퍼를 사용하는 메모리 재생 기법을 활용하여 증분 훈련 중에도 지속적인 지식 유지가 가능하도록 한다.

실험 결과

연구 질문

• RQ1 기존에 학습한 작업의 기억상실 없이 새로운 작업을 증분적으로 학습할 수 있는 메타학습 프레임워크를 설계할 수 있는가?
• RQ2 균형 잡힌 학습 전략은 다양한 작업에 걸쳐 메타학습 기반 기준 모델의 일반화 능력과 안정성을 어떻게 향상시킬 수 있는가?
• RQ3 BI-MAML는 분류 정확도와 훈련 효율성 면에서 기존의 메타학습 및 증분 학습 방법보다 어느 정도 뛰어나게 성능을 발휘하는가?
• RQ4 BI-MAML는 증분 학습(이전 작업의 정확도)과 메타테스트(새로운 작업에 대한 적응) 모두에서 최신 기술 수준의 성능을 동시에 달성할 수 있는가?

주요 결과

• 10개의 작업(각 작업당 2개의 클래스)을 가진 MNIST에서 BI-MAML는 88.99%의 정확도를 달성했으며, 이는 두 번째로 좋은 성능을 보인 iTAML보다 22.6% 높은 성능이다.
• CIFAR-100에서 BI-MAML는 모든 작업 구성에 걸쳐 두 번째로 좋은 방법인 iTAML보다 평균 5.63% 높은 정확도를 기록했다.
• 목표 정확도에 도달하기 위해 훨씬 적은 에포크 수가 필요했으며, 이는 특히 CIFAR-100과 같은 더 큰 데이터셋에서 뛰어난 훈련 효율성을 보임을 시사한다.
• 미세조정 평가에서 BI-MAML는 MNIST에서 99.02%의 정확도, SVHN에서 98.42%의 정확도를 기록하여 GEM, DGR, RtF, RPS-net, iTAML을 포함한 모든 기준 모델을 앞섰다.
• 작업 크기가 증가하는 증분 학습(각 작업당 10, 20, 50개의 클래스) 상황에서 BI-MAML는 각각 79.56%, 77.0%, 68.12%의 정확도를 유지하며 모든 다른 방법들을 능가했다.
• 메타테스트(소수의 예시로의 적응)에서 BI-MAML는 2-way-1-shot MNIST에서 98.40%의 정확도, 5-way-5-shot CIFAR-100에서 71.81%의 정확도를 기록했으며, MAML와 비슷하거나 약간 낮은 성능을 보였지만 다른 증분 방법들에 비해 뚜렷이 뛰어난 성능을 보였다.