[논문 리뷰] Learning to learn via Self-Critique

Antreas Antoniou, Amos Storkey|arXiv (Cornell University)|2019. 05. 24.

Domain Adaptation and Few-Shot Learning참고 문헌 29인용 수 11

한 줄 요약

이 논문은 Self-Critique and Adapt (SCA)를 제안하며, 이는 비지도 학습된 손실 함수를 비평가 네트워크를 통해 학습하여 레이블이 없는 타겟 세트 데이터에서 모델 가중치를 개선함으로써 소수의 샘플 학습 성능을 향상시키는 전이적(few-shot) 메타학습 프레임워크이다. 지원 세트와 타겟 세트의 예측값과 상관관계 특징을 활용하여 SCA는 Mini-ImageNet과 CUB에서 최신 기준(SOTA) 성능을 달성하며, 기준 모델 대비 오차율을 4퍼센트 포인트 이상 감소시킨다.

ABSTRACT

In few-shot learning, a machine learning system learns from a small set of labelled examples relating to a specific task, such that it can generalize to new examples of the same task. Given the limited availability of labelled examples in such tasks, we wish to make use of all the information we can. Usually a model learns task-specific information from a small training-set (support-set) to predict on an unlabelled validation set (target-set). The target-set contains additional task-specific information which is not utilized by existing few-shot learning methods. Making use of the target-set examples via transductive learning requires approaches beyond the current methods; at inference time, the target-set contains only unlabelled input data-points, and so discriminative learning cannot be used. In this paper, we propose a framework called Self-Critique and Adapt or SCA, which learns to learn a label-free loss function, parameterized as a neural network. A base-model learns on a support-set using existing methods (e.g. stochastic gradient descent combined with the cross-entropy loss), and then is updated for the incoming target-task using the learnt loss function. This label-free loss function is itself optimized such that the learnt model achieves higher generalization performance. Experiments demonstrate that SCA offers substantially reduced error-rates compared to baselines which only adapt on the support-set, and results in state of the art benchmark performance on Mini-ImageNet and Caltech-UCSD Birds 200.

연구 동기 및 목표

• 추론 중에 레이블이 부여된 지원 세트 데이터 외에는 활용하지 않는 기존 소수의 샘플 메타학습 방법의 한계를 해결하기 위해.
• 레이블이 없는 타겟 세트 예제로부터의 비지도 정보를 통합함으로써 메타학습 모델의 일반화 성능을 향상시키기 위해.
• 기울기 기반 및 비기울기 기반 메타학습 방법 모두와 호환되는 일반적인 목적의 플러그인 프레임워크를 개발하기 위해.
• 추론 시점에 타겟 세트의 모델 업데이트를 이끄는 레이블이 없는 손실 함수를 생성하는 비평가 네트워크를 학습하기 위해.
• 타겟 세트 입력을 사용한 전이적 적응이 소수의 샘플 분류 정확도를 크게 향상시킬 수 있음을 입증하기 위해.

제안 방법

• 기본 모델을 통해 추출된 타겟 세트의 특징을 바탕으로 손실 신호를 출력하는 비평가 네트워크 C(파라미터 W로 매개변수화)를 훈련한다.
• 비평자는 타겟 세트에서의 모델 예측값, 작업 관계 임베딩, 지원-타겟 관계 네트워크를 입력으로 사용하여 레이블이 없는 손실을 생성한다.
• 이러한 학습된 손실은 타겟 세트의 레이블이 없는 데이터에서 기초 모델 파라미터 θN를 θN+I로 갱신하기 위한 기울기를 계산하는 데 사용되며, 이는 전이적 적응을 가능하게 한다.
• 비평가와 기본 모델은 외부 루프에서 함께 훈련되며, 타겟 세트의 레이블에 기반한 표준 분류 손실을 사용하여 θ0와 W를 최적화한다.
• MAML과 매칭 네트워크를 포함한 모든 메타학습 프레임워크에 비평가 모듈을 추가함으로써, 이 방법은 기존의 메타학습 프레임워크와 호환된다.
• 추론 과정에서는 먼저 비평가의 손실을 사용해 기본 모델을 타겟 세트에서 갱신한 후, 타겟 세트에서 예측을 수행한다.

실험 결과

연구 질문

• RQ1 메타학습 모델은 레이블이 없는 타겟 세트 데이터를 추론 중에 지원 세트에서 학습한 것 외의 정보로 활용할 수 있는가?
• RQ2 신경망이 소수의 샘플 작업에서 모델 일반화 성능을 향상시키는 의미 있는 레이블이 없는 손실 함수를 학습할 수 있는가?
• RQ3 비평가 기반 손실을 사용한 전이적 적응이 다양한 소수의 샘플 벤치마크에서 일관된 성능 향상을 이끌 수 있는가?
• RQ4 비평가 네트워크가 효과적인 손실 신호를 생성하기 위해 가장 유용한 입력 특징은 무엇인가?
• RQ5 제안된 방법은 아키텍처 수정 없이 다양한 메타학습 아키텍처에 통합될 수 있는가?

주요 결과

• SCA는 5-way 1-shot Mini-ImageNet 벤치마크에서 기존 최신 기준(SOTA)을 4퍼센트 포인트 이상 초월하는 새로운 최신 기준 정확도 62.86% ± 0.79%를 달성한다.
• 5-way 5-shot Mini-ImageNet 작업에서 SCA는 85.63% ± 0.66%의 정확도를 기록하며 새로운 최신 기준 성과를 수립한다.
• 기본 모델인 MAML++ 대비 CUB 데이터셋에서 모든 샷 설정 평균으로 4.05퍼센트 포인트의 성능 향상을 보였다.
• 비평가 네트워크는 지원 세트와 타겟 세트 간의 상관관계 특징과 모델 예측값에 집중하는 것을 학습하며, 이는 효과적인 적응에 핵심적인 역할을 한다.
• SCA는 저샷 및 하이샷 설정 모두에서 일관되게 성능 향상을 보이며, 강력한 내재성과 일반화 능력을 입증한다.
• 기울기 기반 메타학습 모델이 아닌 Matching Networks와 같은 비기울기 기반 모델에 적용해도 효과적이며, 광범위한 호환성을 보여준다.