[논문 리뷰] Adaptive Dimension Reduction and Variational Inference for Transductive Few-Shot Classification

Yuqing Hu, Stéphane Pateux외 1명|arXiv (Cornell University)|2022. 09. 18.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 변분 베이지안 추론과 확률적 선형 판별 분석(PLDA)을 통한 적응형 차원 축소를 조합한 새로운 비반복적 소수 분류 방법인 BAVARDAGE를 제안한다. 비균형적인 소수 분류 벤치마크에서 정확도를 최대 6% 향상시키며, 다양한 데이터셋에서 최신 기술 수준(SOTA)의 성능을 달성한다.

ABSTRACT

Transductive Few-Shot learning has gained increased attention nowadays considering the cost of data annotations along with the increased accuracy provided by unlabelled samples in the domain of few shot. Especially in Few-Shot Classification (FSC), recent works explore the feature distributions aiming at maximizing likelihoods or posteriors with respect to the unknown parameters. Following this vein, and considering the parallel between FSC and clustering, we seek for better taking into account the uncertainty in estimation due to lack of data, as well as better statistical properties of the clusters associated with each class. Therefore in this paper we propose a new clustering method based on Variational Bayesian inference, further improved by Adaptive Dimension Reduction based on Probabilistic Linear Discriminant Analysis. Our proposed method significantly improves accuracy in the realistic unbalanced transductive setting on various Few-Shot benchmarks when applied to features used in previous studies, with a gain of up to $6\%$ in accuracy. In addition, when applied to balanced setting, we obtain very competitive results without making use of the class-balance artefact which is disputable for practical use cases. We also provide the performance of our method on a high performing pretrained backbone, with the reported results further surpassing the current state-of-the-art accuracy, suggesting the genericity of the proposed method.

연구 동기 및 목표

• 제한된 레이블 데이터로 인해 발생하는 높은 불확실성과 열 劣한 통계적 성질 문제를 해결하기 위해.
• 비균형적인 비반복적 소수 학습 설정에서 클래스 분포가 비균형적으로 분포된 비라벨 데이터에 대해 성능을 향상시키기 위해.
• 인위적인 클래스 균형 가정에 의존하지 않고 다양한 백본과 데이터셋 간에 일반화 가능한 방법을 개발하기 위해.
• 확률적 모델링과 차원 축소를 통합하여 클래스별 분포를 더 잘 포착함으로써 군집 강건성을 향상시키기 위해.

제안 방법

• 클래스 구분 정보를 유지하면서 특징 공간을 축소하기 위해 적응형 차원 축소를 수행하기 위해 확률적 선형 판별 분석(PLDA)을 적용한다.
• 군집 할당과 불확실성을 모델링하기 위해 변분 베이지안(VB) 추론을 사용하여 클래스 소속도에 대한 민감한 사후 추정을 가능하게 한다.
• VB 추론과 PLDA를 통합하여 군집 구조와 저차원 표현을 동시에 최적화함으로써 추정의 안정성을 향상시킨다.
• 반복적 개선을 위해 VB-PLDA를 사용하기 전에 소프트-KMEANS를 통해 안정적인 초기 군집을 설정한다.
• 사전 학습된 백본(예: WRN, ResNet-12)에서 추출한 특징에 대해 종단 간(end-to-end)으로 적용하여 다양한 모델 간 이식 가능성을 확보한다.
• 정확도 결과의 신뢰도를 높이기 위해 95% 신뢰구간을 사용하여 불확실성 정량화를 수행한다.

실험 결과

연구 질문

• RQ1 적응형 차원 축소와 함께 변분 베이지안 추론이 비균형적인 비반복적 설정에서 소수 분류 정확도를 향상시킬 수 있는가?
• RQ2 소수 분류 벤치마크에서 기준 군집 기반 방법(예: 소프트-KMEANS)과 비교해 본다면, 제안된 방법은 균형 및 비균형 설정 모두에서 어떻게 성능을 내는가?
• RQ3 인위적인 클래스 균형 가정에 의존하지 않고도 다양한 백본 아키텍처와 데이터셋 간에 일반화 가능한가?
• RQ4 PLDA와 VB 추론의 통합이 불확실성을 얼마나 줄이고 학습된 군집의 통계적 성질을 얼마나 향상시키는가?

주요 결과

• BAVARDAGE는 비균형 비반복적 소수 분류 벤치마크에서 소프트-KMEANS 대비 정확도를 6% 향상시켜 실제 설정에서의 뚜렷한 성능 향상을 입증한다.
• CUB 데이터셋에서 RN12*를 사용한 5샷 비균형 설정에서 BAVARDAGE는 93.50%의 정확도를 달성하여 이전 최고 성능 기록을 초월한다.
• 클래스 균형 아티팩트에 의존하지 않고도 균형 설정에서도 경쟁 가능한 성능을 기록함으로써 강건성과 일반화 능력을 입증한다.
• FC100 및 CIFAR-FS에서 BAVARDAGE는 이전 연구에서 테스트되지 않은 비균형 설정에서 새로운 최고 성능 기록을 수립하였다.
• WRN, ResNet-18, ResNet-12 등 다양한 백본에서 높은 성능 유지를 유지함으로써 강력한 일반성과 이식 가능성의 가능성을 보여준다.
• 1개의 GPU에서 10,000개의 소수 작업당 평균 추론 시간은 1.72초로 실용적인 효율성을 확보한다.