[논문 리뷰] Probabilistic Model-Agnostic Meta-Learning

Chelsea Finn, Kelvin Xu외 1명|arXiv (Cornell University)|2018. 06. 07.

Domain Adaptation and Few-Shot Learning참고 문헌 42인용 수 25

한 줄 요약

이 논문은 소수의 샘플로 이루어진 불확실한 few-shot 학습 작업에 대해 다수의 타당한 모델을 샘플링할 수 있도록 Model-Agnostic Meta-Learning(MAML)의 확률적 확장인 PLATIPUS를 제안한다. 메타테스트 추론 및 훈련 시 노이즈를 주입하고 변분 하한을 통해 최적화함으로써, 다양하고 불확실성 인식이 가능한 예측을 생성한다. 이는 결정론적 MAML에 비해 더 나은 모드 커버리지 성능을 보이며 경쟁 가능한 정확도를 유지한다.

ABSTRACT

Meta-learning for few-shot learning entails acquiring a prior over previous tasks and experiences, such that new tasks be learned from small amounts of data. However, a critical challenge in few-shot learning is task ambiguity: even when a powerful prior can be meta-learned from a large number of prior tasks, a small dataset for a new task can simply be too ambiguous to acquire a single model (e.g., a classifier) for that task that is accurate. In this paper, we propose a probabilistic meta-learning algorithm that can sample models for a new task from a model distribution. Our approach extends model-agnostic meta-learning, which adapts to new tasks via gradient descent, to incorporate a parameter distribution that is trained via a variational lower bound. At meta-test time, our algorithm adapts via a simple procedure that injects noise into gradient descent, and at meta-training time, the model is trained such that this stochastic adaptation procedure produces samples from the approximate model posterior. Our experimental results show that our method can sample plausible classifiers and regressors in ambiguous few-shot learning problems. We also show how reasoning about ambiguity can also be used for downstream active learning problems.

연구 동기 및 목표

• 작은 데이터셋으로 인해 단일 정확한 모델를 식별할 수 없는 소수의 샘플 학습에서의 작업 모호성 문제를 해결하기 위해.
• MAML의 이점을 유지하면서도 모델 샘플링을 통해 불확실성 추정이 가능한 확장 가능한 방법을 개발하기 위해.
• 불확실성 추정을 활용해 데이터 수집을 이끌 수 있는 후행 능동 학습을 가능하게 하기 위해.
• 편중된 변분 추론을 사용하여 모델 무결성 메타학습을 확률적 추론으로 확장하기 위해.
• 다수의 모델 샘플링이 모호한 회귀 및 분류 작업에서 성능 향상에 기여하는지 입증하기 위해.

제안 방법

• 단일 점 추정 대신 모델 파라미터에 대한 분포를 모델링함으로써 MAML을 확장한다.
• 메타테스트 시기 동안 경사 하강법에 노이즈를 주입하는 확률적 적응 절차를 도입한다.
• 확률적 적응이 모델 파라미터의 진정한 사후 분포를 근사하도록, 편중된 변분 추론을 사용하여 모델을 훈련한다.
• 신경망 추론 네트워크를 통해 모델 가중치에 대한 변분 사후 분포를 학습한다.
• 메타훈련 작업의 로그우도에 대한 변분 하한을 최적화하여 정확한 사후 근사가 가능하도록 한다.
• 모델 무결성 설계를 유지하여 어떤 표준 신경망 아키텍처에도 적용 가능하도록 한다.

실험 결과

연구 질문

• RQ1 MAML의 확률적 확장이 모호한 소수의 샘플 학습 작업에 대해 다수의 타당한 모델을 효과적으로 샘플링할 수 있는가?
• RQ2 노이즈 주입을 통한 확률적 적응이 결정론적 MAML에 비해 모델 다양성과 정확도 측면에서 어떻게 비교되는가?
• RQ3 모델 샘플링에서 도출된 불확실성 추정치가 능동 학습 시나리오에서 성능 향상에 기여하는가?
• RQ4 고차원의 딥 네트워크에 대해서도 이 방법이 확장 가능하며 불확실성 인식을 유지하는가?
• RQ5 다중 모드 작업 분포에서 여러 타당한 해가 존재하는 경우 이 방법은 어떻게 성능을 발휘하는가?

주요 결과

• PLATIPUS는 결정론적 MAML와 유사한 정확도(celebA 5-shot에서 88.34% ± 1.06%)를 달성하면서도 훨씬 더 많은 모드를 포괄한다.
• 모호한 작업에서 PLATIPUS는 KL 가중치 0.15일 때 평균 1.94개의 모드를 커버하지만, 표준 MAML는 단지 1.00개에 그친다.
• 이 방법은 동일한 훈련 세트에 대해 서로 다른 특성에 주의를 기울이는 분류기들을 샘플링함으로써, 동일한 훈련 세트에 대한 여러 타당한 해석에 걸쳐 효과적인 모드 커버리지를 보여준다.
• PLATIPUS는 MAML보다 평균적으로 낮은 음의 로그우도(0.56 ± 0.04)를 기록하여 더 나은 불확실성 캘리브레이션을 나타낸다.
• 샘플 간의 불일치를 활용하여 정보성 있는 데이터 수집을 우선순위로 정렬함으로써 효과적인 능동 학습을 가능하게 한다.
• 단지 노이즈 주입을 통한 MAML는 PLATIPUS보다 성능이 열 劣하므로, 효과적인 사후 근사에 변분 훈련이 필수적임을 보여준다.