[논문 리뷰] Few-Shot Learning with Metric-Agnostic Conditional Embeddings

Nathan Hilliard, Lawrence Phillips외 4명|arXiv (Cornell University)|2018. 02. 12.

Digital Imaging for Blood Diseases참고 문헌 3인용 수 138

한 줄 요약

이 논문은 질의 이미지에 조건화된 클래스 표현을 갖춘 메트릭-자유(Few-shot) 분류기인 MACO를 소개하며, CUB-200에서 최첨단 성능을 달성하고 비-메트릭 비교 메커니즘을 학습함으로써 다른 데이터셋들에서도 경쟁력 있는 결과를 제시한다.

ABSTRACT

Learning high quality class representations from few examples is a key problem in metric-learning approaches to few-shot learning. To accomplish this, we introduce a novel architecture where class representations are conditioned for each few-shot trial based on a target image. We also deviate from traditional metric-learning approaches by training a network to perform comparisons between classes rather than relying on a static metric comparison. This allows the network to decide what aspects of each class are important for the comparison at hand. We find that this flexible architecture works well in practice, achieving state-of-the-art performance on the Caltech-UCSD birds fine-grained classification task.

연구 동기 및 목표

• 고정 메트릭 공간에서 벗어나 질의에 의해 조건화되는 클래스 표현을 학습하는 방식으로 소수-shot 일반화를 개선하려는 동기를 제시합니다.
• 질의 이미지를 조건으로 삼아 각 클래스 임베딩을 네 가지 단계로 구성하는 아키텍처를 제안해 작업 관련 속성을 더 잘 포착합니다.
• 고정 메트릭을 대체하는 학습 가능한 분류 단계를 제시하여 미세-구분 데이터셋과 일반 데이터셋에서 우수한 성능을 달성할 수 있음을 보여줍니다.
• 질의 이미지에 조건화된 클래스 표현이 성능 향상을 제공함을 확인합니다.

제안 방법

• 네 가지 단계 아키텍처: 특징 추출, 관계 단계, 조건화 단계, 학습 가능한 분류기.
• 관계 단계는 각 클래스 내 쌍 비교를 사용하여 128-D 클래스 임베딩을 평균화 방식으로 생성합니다.
• 조건화 단계는 클래스 임베딩과 질의 벡터를 연결하고 이를 처리하여 조건화된 128-D 클래스 벡터를 생성합니다.
• 분류 단계는 클래스 벡터 집합에 대해 순서에 민감하지 않은 학습 가능한 1D 합성곱 네트워크를 사용하고 뒤이어 Dense 소프트맥스층을 적용합니다.
• 조건화 네트워크는 배치 정규화와 ELU 활성화가 있는 4개의 완전 연결 블록과 스킵 연결을 사용합니다.
• 관계 네트워크 g는 128-D 은닉층을 갖는 4개 블록과 스킵 연결로 구성되며, 모든 쌍 비교에 걸쳐 평균화된 출력을 통해 클래스 표현을 산출합니다.

실험 결과

연구 질문

• RQ1 메트릭-자유 신경망 출력이 질의 이미지에 조건화되어 소수-shot 학습에서 더_task-관련한 클래스 표현을 생성할 수 있을까?
• RQ2 조건화가 비조건화된 메트릭-자유 설계보다 소수-shot 성능을 향상시키는가?
• RQ3 MACO 접근 방식이 미세-구분 데이터셋과 넓은 데이터셋에서 기존 베이스라인(Matching Networks, Prototypical Networks, Meta-LSTM, MAML)과 어떻게 비교되는가?

주요 결과

• MACO는 Caltech-UCSD Birds(CUB-200)에서 1-shot 및 5-shot 정확도에서 최첨단을 달성합니다: 60.76% (1-shot) 및 74.96% (5-shot).
• 조건화를 제거한 경우(MA w/o cond.) CUB-200에서 성능이 55.86% (1-shot) 및 69.49% (5-shot)로 감소하여 조건화가 약 5% 포인트 정도의 이점을 기여함을 시사합니다.
• mini ImageNet에서 MACO는 41.09% (1-shot) 및 58.32% (5-shot)로 여러 베이스라인과 경쟁하나 1-shot에서 상위 메타 학습 방법보다 뒤처집니다.
• mini DogsNet에서 MACO는 39.10% (1-shot) 및 54.45% (5-shot)로 샷에 따라 매칭 네트워크와 MAML 사이에서 순위를 형성합니다.
• 아키텍처는 질의 조건화된 클래스 표현을 갖춘 학습 가능한 분류기가 전통적인 메트릭 기반 접근법보다 미세-구분 데이터셋에서 더 우수하고 넓은 데이터셋에서도 경쟁력을 유지한다는 것을 보여줍니다.