[논문 리뷰] Learning to Learn By Self-Critique

Antreas Antoniou, Amos Storkey|arXiv (Cornell University)|2019. 01. 01.

Domain Adaptation and Few-Shot Learning인용 수 13

한 줄 요약

이 논문은 추론 중에 타겟 세트 데이터를 활용하여 레이블이 없는 손실 함수를 자기 비판을 통해 학습하는 새로운 소수의 학습 프레임워크인 Self-Critique and Adapt (SCA)를 제안한다. 이로 인해 일반화 성능이 향상된다. 이 손실 함수를 최적화하여 타겟 작업에서의 모델 성능을 높임으로써 SCA는 Mini-ImageNet과 CUB-200에서 최신 기준 성능(SOTA)을 달성하며, 지지 세트만을 사용하는 기존 기준 대비 오차율을 크게 감소시킨다.

ABSTRACT

In few-shot learning, a machine learning system learns from a small set of labelled examples relating to a specific task, such that it can generalize to new examples of the same task. Given the limited availability of labelled examples in such tasks, we wish to make use of all the information we can. Usually a model learns task-specific information from a small training-set (support-set) to predict on an unlabelled validation set (target-set). The target-set contains additional task-specific information which is not utilized by existing few-shot learning methods. Making use of the target-set examples via transductive learning requires approaches beyond the current methods; at inference time, the target-set contains only unlabelled input data-points, and so discriminative learning cannot be used. In this paper, we propose a framework called Self-Critique and Adapt or SCA, which learns to learn a label-free loss function, parameterized as a neural network. A base-model learns on a support-set using existing methods (e.g. stochastic gradient descent combined with the cross-entropy loss), and then is updated for the incoming target-task using the learnt loss function. This label-free loss function is itself optimized such that the learnt model achieves higher generalization performance. Experiments demonstrate that SCA offers substantially reduced error-rates compared to baselines which only adapt on the support-set, and results in state of the art benchmark performance on Mini-ImageNet and Caltech-UCSD Birds 200.

연구 동기 및 목표

• 기존의 소수의 학습 방법이 추론 중에 타겟 세트의 레이블이 없는 데이터를 활용하지 못하는 한계를 해결하기 위해.
• 지지 세트와 타겟 세트의 레이블이 없는 데이터만을 사용하여 전도적 적응(transductive adaptation)을 가능하게 하는 방법을 개발하기 위해.
• 자기 비판을 통해 모델 일반화 성능을 향상시키는, 미분 가능하고 신경망 파rameterized 손실 함수를 학습하기 위해.
• 적응 과정에서 타겟 세트 정보를 통합하여 표준 소수의 학습 벤치마크에서 최신 기준 성능(SOTA)을 달성하기 위해.

제안 방법

• SCA는 추론 중에 타겟 세트의 레이블이 없는 데이터를 지도로 삼아 모델 업데이트를 이끄는 레이블이 없는 손실 함수를 신경망을 통해 학습한다.
• 기본 모델은 표준 방법(예: 교차 엔트로피 손실과 함께 확률적 경사 하강법)을 사용하여 지지 세트에서 먼저 훈련된다.
• 추론 단계에서, 자기 학습된 손실 함수를 사용하여 모델이 타겟 세트에서 업데이트되며, 이 손실 함수는 일반화 성능을 최대화하도록 최적화된다.
• 손실 함수는 적응 후 타겟 작업의 오차를 최소화하는 메타학습 목표를 통해 훈련된다.
• 이 프레임워크는 다양한 손실 함수를 미분 가능하고 종단 간(end-to-end)으로 학습 가능한 방식으로 타겟 데이터를 효과적으로 활용함으로써 전도적 소수의 학습을 가능하게 한다.
• 학습된 손실 함수는 지도 없는 레이블을 기반으로 모델의 예측을 평가하고 향상시키는 비평가(critic) 역할을 한다.

실험 결과

연구 질문

• RQ1 모델은 타겟 세트의 레이블이 없는 데이터에서 자신의 예측을 자기 비판함으로써 일반화 성능을 향상시킬 수 있는가?
• RQ2 레이블이 없는 상황에서 소수의 학습에 있어 타겟 세트 예제를 효과적으로 활용할 수 있는가?
• RQ3 신경망 파rameterized 손실 함수를 훈련시켜 미지의 작업에서의 모델 적응을 향상시킬 수 있는가?
• RQ4 학습된 손실 함수를 통해 타겟 세트 정보를 통합하면, 기존의 인덕티브 소수의 학습 방법보다 더 나은 일반화 성능을 달성할 수 있는가?

주요 결과

• 지지 세트에서만 적응하는 기준 대비 SCA는 오차율이 크게 감소하였다.
• SCA는 Mini-ImageNet 벤치마크에서 새로운 최신 기준 성능(SOTA)을 수립하였다.
• SCA는 캘테크-UCSD 새들 200(CUB-200) 데이터셋에서도 최신 기준 성능(SOTA)을 달성하였다.
• 학습된 레이블이 없는 손실 함수는 추론 중에 타겟 세트의 레이블이 없는 데이터를 효과적으로 활용하여 모델의 일반화 성능을 향상시켰다.
• 이 프레임워크는 타겟 세트에 레이블이 필요 없이 전도적 소수의 학습이 가능하다는 가능성을 입증하였다.