[논문 리뷰] Few-Shot Learning as Domain Adaptation: Algorithm and Analysis

Jiechao Guan, Zhiwu Lu외 2명|arXiv (Cornell University)|2020. 02. 06.

Domain Adaptation and Few-Shot Learning참고 문헌 37인용 수 9

한 줄 요약

이 논문은 도메인 적응 프로토타입 네트워크에 주의 메커니즘을 통합한 DAPNA를 제안한다. 이는 소수의 샘플로 학습하는 경우에 본문에서 학습한 클래스와 unseen 클래스 간의 분포 이탈 문제를 명시적으로 다루기 위해 설계되었으며, 세트 트랜스포머 기반의 주의 모듈과 마진 차이 이질도(MDD) 손실을 갖춘 특징 전이 네트워크를 사용한다. 이 방법은 향상된 특징 정렬과 이론적 일반화 경계를 통해 최신 기술 수준의 성능을 달성한다.

ABSTRACT

To recognize the unseen classes with only few samples, few-shot learning (FSL) uses prior knowledge learned from the seen classes. A major challenge for FSL is that the distribution of the unseen classes is different from that of those seen, resulting in poor generalization even when a model is meta-trained on the seen classes. This class-difference-caused distribution shift can be considered as a special case of domain shift. In this paper, for the first time, we propose a domain adaptation prototypical network with attention (DAPNA) to explicitly tackle such a domain shift problem in a meta-learning framework. Specifically, armed with a set transformer based attention module, we construct each episode with two sub-episodes without class overlap on the seen classes to simulate the domain shift between the seen and unseen classes. To align the feature distributions of the two sub-episodes with limited training samples, a feature transfer network is employed together with a margin disparity discrepancy (MDD) loss. Importantly, theoretical analysis is provided to give the learning bound of our DAPNA. Extensive experiments show that our DAPNA outperforms the state-of-the-art FSL alternatives, often by significant margins.

연구 동기 및 목표

• 소수의 샘플로 학습하는 경우에 본문에서 학습한 클래스와 unseen 클래스 간의 분포 이탈 문제를 다루는 것. 이는 본문에서 학습한 클래스에 대해 메타학습을 수행하더라도 일반화를 방해한다.
• 메타학습 프레임워크 내에서 본문에서 학습한 클래스와 unseen 클래스 간의 도메인 이탈을 특수한 도메인 적응 케이스로 모델링하는 것.
• 제한된 소수의 샘플을 사용하여 본문에서 학습한 클래스와 unseen 클래스 간의 특징 분포 정렬을 향상시키는 것.
• 제안된 방법에 대한 이론적 학습 경계를 제공하여 일반화 보장을 보장하는 것.

제안 방법

• 본문에서 학습한 클래스 간에 클래스 오버랩이 없는 두 개의 서브에피소드를 구성하여 본문에서 학습한 클래스와 unseen 클래스 간의 도메인 이탈을 시뮬레이션한다.
• 세트 트랜스포머 기반의 주의 모듈을 사용하여 지원 샘플 간의 관계를 모델링하고 특징 표현 학습을 향상시킨다.
• 제한된 레이블 데이터를 사용하여 두 서브에피소드의 특징 분포를 정렬하기 위해 특징 전이 네트워크를 도입한다.
• 마진 차이 이질도(MDD) 손실을 사용하여 도메인 이질도를 최소화하면서도 클래스 간 분리성을 유지한다.
• 모델을 메타학습 프레임워크 내에서 엔드 투 엔드로 훈련하여 에피소드 간 소수의 샘플 일반화를 최적화한다.
• 이론적 분석을 통해 DAPNA의 일반화 경계를 제시하며, 모델 성능이 도메인 이탈과 데이터 부족성에 어떻게 영향을 받는지를 연결한다.

실험 결과

연구 질문

• RQ1 어떻게 도메인 적응 기법을 소수의 샘플로 학습하는 경우에 효과적으로 통합하여 본문에서 학습한 클래스와 unseen 클래스 간의 분포 이탈 문제를 완화할 수 있는가?
• RQ2 세트 트랜스포머 기반의 주의 메커니즘이 도메인 이탈 상황에서 소수의 샘플로 학습하는 경우의 특징 정렬을 향상시킬 수 있는가?
• RQ3 특징 전이 네트워크와 함께 MDD 손실을 사용할 경우, 저샷 상황에서 일반화 성능이 얼마나 향상되는가?
• RQ4 도메인 이탈을 명시적으로 모델링하는 소수의 샘플로 학습하는 모델의 이론적 일반화 경계는 무엇인가?

주요 결과

• DAPNA는 표준 소수의 샘플로 학습하는 벤치마크에서 최신 기술 수준의 성능을 달성하며, 기존 방법들보다 뚜렷한 성능 향상을 보였다.
• 세트 트랜스포머 기반의 주의 모듈 통합은 도메인 이탈 상황에서 특징 표현 학습과 모델의 강건성을 향상시켰다.
• 특징 전이 네트워크와 MDD 손실의 조합은 제한된 레이블 데이터로도 본문에서 학습한 클래스와 unseen 클래스 간의 특징 분포를 효과적으로 정렬했다.
• 이론적 분석을 통해 DAPNA의 더 날카운 일반화 경계가 확인되었으며, 이는 도메인 이탈에 대한 강건성을 검증한다.
• 실증 결과는 다양한 소수의 샘플로 학습 프로토콜과 데이터셋에서 일관된 성능 향상을 보였다.