[논문 리뷰] Regression Networks for Meta-Learning Few-Shot Classification

Arnout Devos, Matthias Grossglauser|arXiv (Cornell University)|2019. 05. 31.

Domain Adaptation and Few-Shot Learning참고 문헌 29인용 수 4

한 줄 요약

이 논문은 소수의 예시로 이미지 분류를 수행하기 위한 회귀 네트워크를 제안한다. 쿼리 포인트는 각 클래스의 임bedded 부분공간 내에서 가장 가까운 근사값을 회귀하여 분류되며, 이 회귀 오차를 거리 척도로 사용한다. 이 방법은 고차원 임베딩 내의 방향 정보를 활용하고 강력한 클래스 부분공간 모델링을 통해 소수의 예시 설정에서 특히 높은 성능을 기록하며 최신 기술 수준(SOTA)을 달성한다.

ABSTRACT

We propose regression networks for the problem of few-shot classification, where a classifier must generalize to new classes not seen in the training set, given only a small number of examples of each class. In high dimensional embedding spaces the direction of data generally contains richer information than magnitude. Next to this, state-of-the-art few-shot metric methods that compare distances with aggregated class representations, have shown superior performance. Combining these two insights, we propose to meta-learn classification of embedded points by regressing the closest approximation in every class subspace while using the regression error as a distance metric. Similarly to recent approaches for few-shot learning, regression networks reflect a simple inductive bias that is beneficial in this limited-data regime and they achieve excellent results, especially when more aggregate class representations can be formed with multiple shots.

연구 동기 및 목표

• 소수의 레이블된 예시만으로 새로운 클래스에 일반화해야 하는 소수의 예시 이미지 분류 과제를 해결한다.
• 기존의 거리 기반 방법이 단순한 중심점 비교에 의존하여 고차원 임베딩 내의 방향 정보를 충분히 활용하지 못하는 한계를 극복한다.
• 회귀 기반 클래스 부분공간 모델링을 통해 더 강력하고 구조적인 표현을 학습하여 도메인 이탈 상황에서도 일반화 성능을 향상시킨다.
• 낮은 데이터 환경에서 유익한 인덕티브 바이어스를 반영하는 간단하면서도 효과적인 메타학습 프레임워크를 개발한다.
• 특히 각 클래스당 하나 이상의 예시가 존재할 때, 다양한 소수의 예시 벤치마크에서 뛰어난 성능을 입증한다.

제안 방법

• 학습 가능한 파rameter φ를 가진 신경망을 사용하여 입력 이미지를 고차원 임베딩 공간으로 매핑한다.
• 각 클래스에 대해, K개의 서포트 세트 임베딩 fₚ(𝐱ₙᵢ)로부터 K차원 부분공간 행렬 Sₙ을 구성한다.
• 각 쿼리 포인트 eᵢ에 대해, 학습된 선형 매핑을 사용하여 각 클래스 부분공간 내에서 최적의 근사값을 회귀한다.
• 쿼리 포인트와 클래스 부분공간 간의 거리 척도로 회귀 오차 d̃(eᵢ, Sₙ)을 계산한다.
• 최소 회귀 오차를 가진 클래스를 선택하여 쿼리 포인트를 분류한다.
• 학습 중에 부분공간 정규화 정규화 항을 사용하여 일반화 성능 향상과 학습된 부분공간 간의 중복 감소를 도모한다.

실험 결과

연구 질문

• RQ1 클래스 부분공간 내에서의 회귀 기반 근사가 기존의 중심점 기반 표준 거리 학습 방식을 초월하여 소수의 예시 분류 성능을 향상시킬 수 있는가?
• RQ2 고차원 임베딩 내의 방향 정보를 활용할 경우, 저예시 설정에서 성능에 어떤 영향을 미치는가?
• RQ3 클래스 표현을 단일 점이 아닌 부분공간으로 모델링할 경우, 도메인 이탈 상황에서 일반화 성능이 향상되는가?
• RQ4 샷 수가 증가함에 따라(예: 1샷 vs. 5샷 vs. 10샷) 회귀 네트워크의 성능 스케일링은 어떻게 되는가?
• RQ5 도메인 내 및 도메인 외 평가 조건에서 최신 기술 수준의 거리 학습 기반 베이스라인(예: ProtoNet, RelationNet)과 비교해 성능는 어떻게 되는가?

주요 결과

• Regression Networks는 다양한 백본(예: Conv-4, ResNet-10, ResNet-34)을 사용할 때, mini-ImageNet에서 5-way 1-shot, 5-shot, 10-shot 분류 과제에서 최신 기술 수준의 성능을 기록한다.
• ResNet-10 백본을 사용한 5-way 1-shot mini-ImageNet에서, RegressionNet은 74.03%의 정확도를 기록하여 ProtoNet(73.77%)와 RelationNet(69.97%)를 모두 앞선다.
• 도메인 이탈 상황인 5-way 5-shot mini-ImageNet → CUB 설정에서, RegressionNet은 62.71%의 정확도를 기록하여 ProtoNet(59.22%)와 RelationNet(54.36%)를 크게 앞선다.
• CUB → mini-ImageNet 설정에서도 RegressionNet은 56.66%의 정확도를 유지하며 모든 베이스라인보다 뛰어난 성능을 보인다.
• 샷 수가 증가함에 따라 베이스라인 대비 일관된 성능 향상을 보이며, 부분공간 모델링 방식이 더 많은 서포트 예시를 활용할수록 유리함을 확인한다.
• 부분공간 정규화 정규화 항의 포함으로 일반화 성능 향상이 이루어졌으며, 특히 도메인 이탈 상황에서 그 효과가 두드러져, 저데이터 환경에서의 유용성을 확인한다.