[논문 리뷰] A Reweighted Meta Learning Framework for Robust Few Shot Learning.

Krishnateja Killamsetty, Changbin Li외 3명|arXiv (Cornell University)|2020. 11. 13.

Domain Adaptation and Few-Shot Learning참고 문헌 27인용 수 5

한 줄 요약

이 논문은 적응형 인스턴스/태스크 가중치를 부여하는 재가중 meta-learning 프레임워크인 RW-MAML을 제안한다. 이는 적응형으로 검증 태스크 기반으로 가중치를 동적으로 조정함으로써 소수 샘플 학습에서의 강건성 향상에 기여한다. 이중 이중 최적화를 통해 구현된 RW-MAML은 분포 밖 및 노이즈가 있는 레이블 상황에서 최신 기술(SOTA)을 초월하며, 도메인 분포 이동과 레이블 손상에 대한 강건성과 일반화 능력을 입증한다.

ABSTRACT

Model-Agnostic Meta-Learning (MAML) is a popular gradient-based meta-learning framework that tries to find an optimal initialization to minimize the expected loss across all tasks during meta-training. However, it inherently assumes that the contribution of each instance/task to the meta-learner is equal. Therefore, it fails to address the problem of domain differences between base and novel classes in few-shot learning. In this work, we propose a novel and robust meta-learning algorithm, called RW-MAML, which learns to assign weights to training instances or tasks. We consider these weights to be hyper-parameters. Hence, we iteratively optimize the weights using a small set of validation tasks and an online approximation in a \emph{bi-bi-level} optimization framework, in contrast to the standard bi-level optimization in MAML. Therefore, we investigate a practical evaluation setting to demonstrate the scalability of our RW-MAML in two scenarios: (1) out-of-distribution tasks and (2) noisy labels in the meta-training stage. Extensive experiments on synthetic and real-world datasets demonstrate that our framework efficiently mitigates the effects of unwanted instances, showing that our proposed technique significantly outperforms state-of-the-art robust meta-learning methods.

연구 동기 및 목표

• 기본 클래스와 신규 클래스 간 도메인 분포 이동 상황에서 모든 인스턴스/태스크가 동일한 기여를 한다는 MAML의 가정이 실패함을 해결하기 위해.
• 메타학습 중 실질적인 두 가지 과제인 분포 밖 태스크와 노이즈가 있는 레이블 상황에서 소수 샘플 학습의 강건성을 향상시키기 위해.
• 반복 최적화를 통해 인스턴스/태스크 가중치를 하이퍼파라미터로 학습하는 확장 가능하고 실용적인 프레임워크를 개발하기 위해.
• 검증 성능 기반으로 동적으로 학습 인스턴스를 재가중시켜 분포 이동과 레이블 노이즈에 효과적으로 대응할 수 있도록 하기 위해.

제안 방법

• 표준 MAML의 이중 최적화 구조와는 다름없이 인스턴스/태스크 가중치를 하이퍼파라미터로 학습하는 이중 이중 최적화 프레임워크를 제안한다.
• 소규모 검증 태스크 세트를 사용하여 메타학습 중에 효율적으로 가중치를 업데이트하기 위해 온라인 근사 기법을 사용한다.
• 검증 성능 기반으로 기울기 업데이트를 통해 최적화되는 학습 가능한 파라미터로 인스턴스/태스크 가중치를 취급한다.
• 메타최적화 중에 이질적이거나 노이즈가 있는 인스턴스의 영향을 줄이기 위한 재가중 메커니즘을 도입한다.
• 모델에 종속되지 않는 성격을 유지하면서도 동적으로 데이터 기반 가중치를 부여함으로써 일반화 능력을 향상시킨다.
• 실제 분포 내 및 분포 밖 설정에서 프레임워크를 적용하여 강건성과 확장성 평가를 수행한다.

실험 결과

연구 질문

• RQ1 기본 클래스와 신규 클래스 간 분포 이동 상황에서 적응형 인스턴스/태스크 가중치 부여가 메타학습기의 강건성을 향상시킬 수 있는가?
• RQ2 표준 MAML 및 기타 강건한 메타학습 방법과 비교해 볼 때, 메타학습 중 노이즈가 있는 레이블이 존재할 경우 RW-MAML의 성능은 어떠한가?
• RQ3 제한된 검증 데이터를 가진 실제 소수 샘플 학습 시나리오에 대해 이중 이중 최적화 프레임워크가 효과적으로 확장 가능한가?
• RQ4 재가중 기법이 메타테스트 중 분포 밖 태스크의 부정적 영향을 어느 정도 완화하는가?

주요 결과

• RW-MAML은 합성 및 실제 데이터셋 모두에서 분포 밖 태스크 설정 하에서 최신 기술(SOTA) 강건한 메타학습 방법을 뛰어넘는 성능을 보였다.
• 메타학습 중 노이즈가 있는 레이블의 영향을 효과적으로 완화하여 신규 태스크로의 일반화 능력을 향상시켰다.
• 이중 이중 최적화는 효율적이고 확장 가능한 가중치 학습을 가능하게 하며, 제한된 검증 데이터 조건에서도 성능 유지에 기여했다.
• 적응형 재가중 기법은 문제적 인스턴스의 영향을 줄여 더 안정적이고 강건한 메타최적화를 이끌었다.
• 실험 결과, 여러 벤치마크에서 RW-MAML가 MAML 및 기타 최신 기술 기반 방법보다 더 높은 정확도와 더 나은 일반화 능력을 확보했다.
• 특히 자료가 극도로 부족한 소수 샘플 시나리오에서 도메인 분포 이동에 대해 강력한 내성성을 보였다.