[논문 리뷰] One-Way Prototypical Networks

Anna Kruspe|arXiv (Cornell University)|2019. 01. 01.

Domain Adaptation and Few-Shot Learning참고 문헌 25인용 수 4

한 줄 요약

이 논문은 소수의 예시로 한정된 일방적 원형 분류를 위한 단방향 프로토타입 네트워크를 제안하며, 배치 정규화를 통해 영점 중심의 null 클래스를 도입하여 부정 예시가 필요 없도록 한다. 또한 중심점만이 아니라 평균과 표준편차를 모두 포함한 전체 정규분포를 사용해 클래스 프로토타입을 모델링함으로써, Omniglot에서 98%의 정확도와 불일치하는 MNIST에서 80%의 정확도를 달성하며, 양방향 모델 대비 학습 시간을 절반으로 줄였다.

ABSTRACT

Few-shot models have become a popular topic of research in the past years. They offer the possibility to determine class belongings for unseen examples using just a handful of examples for each class. Such models are trained on a wide range of classes and their respective examples, learning a decision metric in the process. Types of few-shot models include matching networks and prototypical networks. We show a new way of training prototypical few-shot models for just a single class. These models have the ability to predict the likelihood of an unseen query belonging to a group of examples without any given counterexamples. The difficulty here lies in the fact that no relative distance to other classes can be calculated via softmax. We solve this problem by introducing a "null class" centered around zero, and enforcing centering with batch normalization. Trained on the commonly used Omniglot data set, we obtain a classification accuracy of .98 on the matched test set, and of .8 on unmatched MNIST data. On the more complex MiniImageNet data set, test accuracy is .8. In addition, we propose a novel Gaussian layer for distance calculation in a prototypical network, which takes the support examples' distribution rather than just their centroid into account. This extension shows promising results when a higher number of support examples is available.

연구 동기 및 목표

• 부정 예시를 정의하거나 수집하기 어려운 소수의 예시 학습에서의 일방적 분류 문제를 해결하기 위해.
• 영점 중심 분포를 가진 'null' 클래스를 도입함으로써, 부정 또는 반대 클래스에 대한 학습이 필요 없도록 하기 위해.
• 잠재 공간 내에서 중심점뿐만 아니라 전체 정규분포(평균 및 표준편차)로 클래스 프로토타입을 모델링하여 소수의 예시 일반화 성능을 향상시키기 위해.
• 학습 시 한 번에 하나의 클래스만 처리함으로써, 양방향 설계를 활용해 학습 시간을 절반으로 줄이기 위해.

제안 방법

• 잠재 공간 내에서 고정된 영점 중심을 가진 'null' 클래스를 도입하며, 이는 배치 정규화의 영점 중심 성질 덕분이다.
• 부정 예시 없이, 양성 클래스의 지원 예시만을 사용하여 학습하며, 교차 엔트로피 손실을 적용하고 null 클래스를 부정 기준으로 삼는다.
• 중심점뿐만 아니라 다변량 정규분포(평균 및 표준편차)로 클래스 프로토타입을 모델링하여 불확실성과 분포의 산란을 포착한다.
• 지원 예시의 평균과 분산을 기반으로 거리를 계산하기 위해 프로토타입 네트워크에 정규분포층을 적용한다.
• 임bedding 레이어 이후에 배치 정규화를 적용하여 영점 중심을 강제함으로써, null 클래스 표현의 안정성을 확보한다.
• 지원 세트와 쿼리 예시를 사용한 에피소드 기반 소수의 예시 학습 설정에서 학습하며, 미리 보지 않은 쿼리에 대한 분류 정확도를 최적화한다.

실험 결과

연구 질문

• RQ1 부정 예시나 반대 클래스가 필요 없이도 프로토타입 네트워크를 일방적 분류에 효과적으로 학습시킬 수 있는가?
• RQ2 중심점만이 아니라 평균과 표준편차를 포함한 전체 정규분포로 클래스 프로토타입을 모델링하면 중심점 기반 모델링보다 소수의 예시 일반화 성능이 향상되는가?
• RQ3 한 개의 양성 클래스와 null 클래스만을 사용하는 일방 학습 설정이 양방향 모델 대비 정확도와 학습 효율성 측면에서 어떻게 비교되는가?
• RQ4 충분한 지원 예시가 확보된 경우, 정규분포층의 사용이 성능 향상에 측정 가능한 기여를 하는가?

주요 결과

• 일방적 프로토타입 네트워크는 일치하는 Omniglot 테스트 세트에서 98%의 정확도를 달성했으며, 불일치하는 MNIST 데이터에서는 80%의 정확도를 기록하여, 새로운 도메인으로의 강력한 일반화 능력을 입증했다.
• 더 복잡한 MiniImageNet 데이터셋에서는 80%의 테스트 정확도를 달성하여 분포 이탈에 대한 강건성을 보였다.
• 15개 이상의 지원 예시가 확보된 경우, 정규분포층 확장이 표준 중심점 기반 프로토타입 네트워크보다 성능이 뛰어나, 불확실성의 모델링 향상이 확인되었다.
• 에피소드당 한 개의 클래스만 처리함으로써, 양방향 모델 대비 학습 시간이 약 50% 감소했다.
• 학습 중에 null 분포의 표준편차를 조정할 수 있도록 허용함으로써 성능 향상이 이루어졌으며, 이는 배치 정규화가 단위 분산을 강제하더라도 여전히 유의미한 효과를 가짐을 시사한다.
• Omniglot에서 대규모 지원 세트(≥15개 예시)를 사용할 경우, 표준 프로토타입 네트워크를 초월한 성능을 기록하여, 풍부한 지원 데이터가 존재할 경우의 확장 가능성 잠재력을 보여주었다.