[논문 리뷰] Leveraging the Feature Distribution in Transfer-based Few-Shot Learning

Yuqing Hu, Vincent Gripon외 1명|arXiv (Cornell University)|2020. 06. 06.

Domain Adaptation and Few-Shot Learning참고 문헌 43인용 수 32

한 줄 요약

두 단계 전이 기반 소수 샷 학습 방법을 소개합니다: (1) 파워 트랜스폼으로 백본 특징을 Gaussian과 같은 분포로 전처리하고, (2) MAP/Sinkhorn 기반 최적 수송 알고리즘(전판(transductive))을 적용하여 클래스 중심을 정제하여, 여러 데이터세트와 백본에서 최첨단 결과를 달성합니다.

ABSTRACT

Few-shot classification is a challenging problem due to the uncertainty caused by using few labelled samples. In the past few years, many methods have been proposed to solve few-shot classification, among which transfer-based methods have proved to achieve the best performance. Following this vein, in this paper we propose a novel transfer-based method that builds on two successive steps: 1) preprocessing the feature vectors so that they become closer to Gaussian-like distributions, and 2) leveraging this preprocessing using an optimal-transport inspired algorithm (in the case of transductive settings). Using standardized vision benchmarks, we prove the ability of the proposed methodology to achieve state-of-the-art accuracy with various datasets, backbone architectures and few-shot settings.

연구 동기 및 목표

• 가우시안 유사 가정에 맞춘 백본 특징의 분포 전처리 사용을 촉진하여 few-shot 작업의 성능을 높인다.
• Sinkhorn 수송을 활용한 MAP 유사 반복 알고리즘을 제안하여 전판적(class-center) 추정을 수행한다.
• 가벼운 하이퍼파라미터 발자취로 다양한 데이터세트와 백본에서 최첨단 정확도를 입증한다.

제안 방법

• 편향을 감소시키고 분산을 정규화하기 위해 백본 특징에 파워 변환(PT)을 적용한 후 단위 분산 투영을 수행한다.
• 가우시안 유사 클래스 분포를 가정하고 반복적인 Sinkhorn 기반 최적 수송을 통해 클래스 중심의 MAP 추정을 수행한다.
• 엔트로피 규제를 가진 소프트 할당 행렬 M*를 사용하여 비라벨링 쿼리 특징을 클래스 중심으로 매핑하고 관성 매개변수로 중심을 업데이트한다.
• 유도적 설정에서는 전처리 후 최근접 클래스 평균 방식으로 분류하고, 전판적 설정에서는 풀링된 비라벨링 집합에 대해 MAP/Sinkhorn 절차를 적용한다.
• 계층 편향(beta), Sinkhorn 규제(lambda), 중심 업데이트용 알파(alpha) 등의 소수의 하이퍼파라미터를 데이터세트에 걸쳐 조정하고 여러 반복(n_steps) 후 결과를 보고한다.

실험 결과

연구 질문

• RQ1 Gaussian-like 분포로의 특징 전처리가 전이 기반의 소수 샷 학습 성능을 향상시킬 수 있는가?
• RQ2 MAP와 Sinkhorn 수송 기반 할당이 전판적 소수 샷 설정에서 비라벨 Query 샘플의 레이블링을 개선하는가?
• RQ3 백본 선택과 하이퍼파라미터가 표준 벤치마크에서 성능에 어떤 영향을 미치는가?
• RQ4 전판적 설정에서 샘플 수가 정확도에 미치는 실험적 영향은 무엇인가?
• RQ5 제안한 방법이 클래스 불균형 및 도메인 간 시나리오에 로버스트한가?

주요 결과

• 제안된 PT+MAP 방법은 여러 벤치마크(miniImageNet, tieredImageNet, CUB, CIFAR-FS)에서 여러 백본에 걸쳐 최첨단 정확도를 달성한다.
• 파워 변환(PT)은 특징 분포를 Gaussian-like 형태로 크게 재구성하여 이후 분류를 돕는다.
• Sinkhorn 기반 할당을 이용한 MAP은 전판적 설정에서 중심 추정 및 레이블 할당을 개선하고 기준선보다 우수하며 유도적 변형에 비해 현저한 이점을 보인다.
• 샘플 수(s) 및 비라벨 샘플 수(q)가 달라도 방법의 성능이 견고하며 교차 도메인 평가에서도 경쟁력을 유지한다.
• 하이퍼파라미터의 민감도는 제한적이며 검증 클래스와 신규 클래스에 대해 최적 성능이 일치하는 경향이 있어 데이터세트 간 로버스트함을 시사한다.