[논문 리뷰] Exploiting Unsupervised Inputs for Accurate Few-Shot Classification

Yuqing Hu, Vincent Gripon외 1명|arXiv (Cornell University)|2020. 02. 21.

Domain Adaptation and Few-Shot Learning인용 수 22

한 줄 요약

이 논문은 추가적인 파라미터 학습 없이 사전 훈련된 특징과 미분류 샘플로부터의 전도적 정보를 활용하는 그래프 기반 특징 보간 방법을 제안한다. 특징 임bedding에서 유사도 그래프를 구성하고 이웃 샘플을 통해 특징을 확산하기 위해 거듭제곱 반복을 적용함으로써, miniImageNet 및 CUB 벤치마크에서 최신 기술을 초월하는 정확도를 달성한다. 이는 GNN 기반 접근 방식보다도 단순성과 효율성을 유지하면서도 성능이 뛰어나다.

ABSTRACT

In few-shot classification, the aim is to learn models able to discriminate classes using only a small number of labeled examples. In this context, works have proposed to introduce Graph Neural Networks (GNNs) aiming at exploiting the information contained in other samples treated concurrently, what is commonly referred to as the transductive setting in the literature. These GNNs are trained all together with a backbone feature extractor. In this paper, we propose a new method that relies on graphs only to interpolate feature vectors instead, resulting in a transductive learning setting with no additional parameters to train. Our proposed method thus exploits two levels of information: a) transfer features obtained on generic datasets, b) transductive information obtained from other samples to be classified. Using standard few-shot vision classification datasets, we demonstrate its ability to bring significant gains compared to other works.

연구 동기 및 목표

• 제한된 레이블 데이터를 가진 소수의 이미지 분류 문제를 해결하기 위해, 미분류 샘플로부터의 전도적 정보를 활용한다.
• 추가로 학습 가능한 파라미터를 도입하여 모델 복잡도가 증가하는 기존 GNN 기반 방법의 한계를 극복한다.
• 전이 학습과 그래프 기반 특징 전파를 결합한 단순하면서도 효과적인 방법을 개발하여, 데이터가 적은 환경에서의 일반화 성능을 향상시킨다.
• 사전 훈련된 특징의 그래프 기반 보간이 소수의 이미지 분류 성능을 크게 향상시킬 수 있음을 입증한다.
• 핵심 하이퍼파rameter와 클래스 불균형이 모델의 강건성과 성능에 미치는 영향을 분석한다.

제안 방법

• 대규모 일반 데이터셋에서 딥 네ural 네트워크 백본을 사전 훈련하여 이식 가능한 특징를 추출한다.
• 노드가 샘플을 나타내고, 간선 가중치가 특징 벡터 간 코사인 유사도에 기반하는 유사도 그래프를 구성한다.
• 행렬 $ (\alpha I + E)^\kappa $ 를 사용하여 특징을 이웃 샘플 간에 보간하는 확산 과정을 적용한다. 여기서 $ E $ 는 그래프 인접행렬이다.
• 보간된 특징를 사용하여 레이블이 있는 데이터만으로 단순한 로지스틱 회귀 분류기를 훈련한다.
• 훈련된 분류기를 사용하여 그래프의 전도적 인도티브 편향을 활용해 미분류 샘플에 대해 추론을 수행한다.
• 부드럽게 하고 표현의 정확성을 유지하기 위해 하이퍼파ram터 $ \kappa $, $ \alpha $, $ k $ (이웃 수) 를 최적화한다.

실험 결과

연구 질문

• RQ1 추가적인 학습 가능한 파라미터 없이 그래프 기반 특징 보간이 소수의 이미지 분류 정확도를 향상시킬 수 있는가?
• RQ2 하이퍼파ram터 $ \kappa $, $ \alpha $, $ k $ 의 선택이 방법의 성능와 강건성에 어떤 영향을 미치는가?
• RQ3 미분류 세트에서의 클래스 불균형이 제안된 전도적 방법의 성능을 얼마나 떨어뜨리는가?
• RQ4 정확도와 효율성 측면에서 제안된 방법은 최신 기술의 GNN 기반 소수의 학습 접근 방식보다 어떻게 비교되는가?
• RQ5 특징이 클래스 경계와 완벽하게 일치하지 않을 때도 그래프 구조가 샘플 간 의미 있는 관계를 효과적으로 포착하는가?

주요 결과

• 제안된 방법은 miniImageNet 및 CUB 벤치마크에서 최신 기술을 초월하는 성능을 달성하며, 기존의 GNN 기반 접근 방식보다 소수의 이미지 분류 정확도에서 뛰어나다.
• 최고의 성능는 작은 $ k $ (예: $ k=5 $ 또는 $ k=10 $) 에서 달성되며, 이는 잡음이 많거나 먼 유사도가 성능을 해칠 수 있음을 시사한다.
• $ k $ 가 작을 경우 하이퍼파ram터 선택에 대해 강건하며, $ \kappa \leq 3 $ 일 때는 $ \alpha $ 와 $ \kappa $ 에 대해 거의 민감하지 않다.
• 특히 그래프가 조밀할 경우 $ \alpha $ 가 작고 $ k $ 가 클 때 과도한 스무딩이 발생하여 성능이 떨어진다.
• 미분류 세트에서의 클래스 불균형은 정확도를 크게 떨어뜨리며, 특히 각 클래스당 하나의 샘플만 존재할 경우 가장 열 劣한 성능를 보인다.
• 시각화 결과는 일부 클래스는 그래프에서 잘 분리되어 있는 반면, 다른 클래스는 뒤엉켜 있는 것으로 나타나, 백본 특징가 작업에 관련이 없는 분산을 포함할 수 있음을 시사한다.