[논문 리뷰] Learning to Balance: Bayesian Meta-Learning for Imbalanced and Out-of-distribution Tasks

Haebeom Lee, Hayeon Lee외 5명|arXiv (Cornell University)|2019. 05. 30.

Domain Adaptation and Few-Shot Learning참고 문헌 22인용 수 56

한 줄 요약

논문은 변분 추론을 사용하여 Bayesian Task-Adaptive Meta-Learning (Bayesian TAML)이 task- 및 클래스 불균형 및 OOD(Out-of-Distribution) 상황에서 메타지식과 task-/class-특정 학습 간의 균형을 적응적으로 조절한다. 현실적인 불균형 소샷 벤치마크에서 기존 메타러닝 방법들보다 더 우수한 성능을 보인다.

ABSTRACT

While tasks could come with varying the number of instances and classes in realistic settings, the existing meta-learning approaches for few-shot classification assume that the number of instances per task and class is fixed. Due to such restriction, they learn to equally utilize the meta-knowledge across all the tasks, even when the number of instances per task and class largely varies. Moreover, they do not consider distributional difference in unseen tasks, on which the meta-knowledge may have less usefulness depending on the task relatedness. To overcome these limitations, we propose a novel meta-learning model that adaptively balances the effect of the meta-learning and task-specific learning within each task. Through the learning of the balancing variables, we can decide whether to obtain a solution by relying on the meta-knowledge or task-specific learning. We formulate this objective into a Bayesian inference framework and tackle it using variational inference. We validate our Bayesian Task-Adaptive Meta-Learning (Bayesian TAML) on multiple realistic task- and class-imbalanced datasets, on which it significantly outperforms existing meta-learning approaches. Further ablation study confirms the effectiveness of each balancing component and the Bayesian learning framework.

연구 동기 및 목표

• 실제 작업 분포에서 각 작업 및 각 클래스당 서로 다른 샷 수를 갖는 상황에서 메타러닝의 동기를 부여한다.
• 각 작업과 클래스마다 메타지식과 작업-특정 학습을 적응적으로 균형 잡는 프레임워크를 개발한다.
• 단일한 Bayesian 메타학습 모델 내에서 클래스 불균형, 작업 불균형, 그리고 OOD 작업을 처리한다.
• 작업별로 학습 역학 및 초기화를 조절하기 위한 세 가지 균형 변수을 제안한다.
• 불균형 소샷 벤치마크에서 접근법을 검증하고 구성 요소의 기여를 분석한다.

제안 방법

• 내부 그래디언트 업데이트를 조정하기 위한 작업-의존적 균형 변수 도입: 클래스별 학습률 가중치, 계층별 학습률 승수, 및 작업-의존적 초기 매개변수 조절.
• 불확실성을 포착하기 위해 균형 변수에 대한 아모타이즈된 변분 posterior를 포함하는 Bayesian 메타러닝 목표를 수립한다(KL 정규화를 포함한 변분 하한).
• 계층적 집합 인코더 StatisticsPooling을 사용하여 클래스별 샘플로부터 작업 표현을 인코딩하고 균형 변수의 입력을 생성한다.
• Balancing 변수를 MAML 스타일의 내부 루프 업데이트에 통합하는 업데이트 규칙을 도출한다.
• 메타-테스트 중 MC 샘플링을 수행하여 예측 분포를 근사하고 균형 변수의 불확실성을 포착한다.

실험 결과

연구 질문

• RQ1 현실적인 불균형과 분포 이동하에서 베이지안, 작업- 및 클래스 적응형 균형 메커니즘이 소샷 학습을 개선할 수 있는가?
• RQ2 작업 의존적 초기화, 클래스별 그래디언트 스케일링, 계층별 학습률 모듈레이션이 불균형 및 OOD 작업에서 성능에 어떻게 기여하는가?
• RQ3 균형 변수에 대한 아모타이즈된 변분 추론이 다양한 작업 분포에서 강건한 작업별 예측기를 산출하는가?
• RQ4 계층적 집합 인코더가 균형 변수 생성을 위한 작업 통계를 포착하는 데 효과적인가?
• RQ5 제안된 균형 구성 요소가 불균형 및 OOD 벤치마크에서 강력한 메타러닝 기본 방법들보다 측정 가능한 이점을 제공하는가?

주요 결과

• Bayesian TAML은 불균형 및 OOD 소샷 분류 벤치마크에서 강력한 메타학습 기본 방법 대비 상당한 개선을 보인다.
• 세 가지 균형 변수는 메타- 및 작업-특정 학습을 적응적으로 조절하여 작업 불균형(gamma), 클래스 불균형(omega), 분포 변화(z)를 효과적으로 다룬다.
• 균형 변수의 베이지안 모형화와 MC 샘플링은 특히 OOD 작업에서 상당한 이득을 가져온다.
• 계층적 집합 통계(평균, 분산, 원소 수)에 기반한 작업 인코더가 균형 변수의 효과적인 추론을 뒷받침한다.
• 특징 제거 연구는 각 균형 구성 요소가 전체 성능에 기여하는 바를 보여준다.
• 균형 변수에 대한 베이지안 처리 모델 변형이 결정론적 상대 방법보다 우수하여 균형 결정에서 불확실성의 가치를 보여준다.