[论文解读] Adaptive Dimension Reduction and Variational Inference for Transductive Few-Shot Classification

Yuqing Hu, Stéphane Pateux+1 more|arXiv (Cornell University)|Sep 18, 2022

Domain Adaptation and Few-Shot Learning被引用 4

一句话总结

本文提出 BAVARDAGE，一种新颖的归纳式 few-shot 分类方法，结合变分贝叶斯推断与基于概率线性判别分析（PLDA）的自适应降维。该方法在类别不平衡的 Few-Shot 基准上准确率最高提升 6%，并在多个数据集上实现最先进性能，包括在不平衡设置下的新结果。

ABSTRACT

Transductive Few-Shot learning has gained increased attention nowadays considering the cost of data annotations along with the increased accuracy provided by unlabelled samples in the domain of few shot. Especially in Few-Shot Classification (FSC), recent works explore the feature distributions aiming at maximizing likelihoods or posteriors with respect to the unknown parameters. Following this vein, and considering the parallel between FSC and clustering, we seek for better taking into account the uncertainty in estimation due to lack of data, as well as better statistical properties of the clusters associated with each class. Therefore in this paper we propose a new clustering method based on Variational Bayesian inference, further improved by Adaptive Dimension Reduction based on Probabilistic Linear Discriminant Analysis. Our proposed method significantly improves accuracy in the realistic unbalanced transductive setting on various Few-Shot benchmarks when applied to features used in previous studies, with a gain of up to $6\%$ in accuracy. In addition, when applied to balanced setting, we obtain very competitive results without making use of the class-balance artefact which is disputable for practical use cases. We also provide the performance of our method on a high performing pretrained backbone, with the reported results further surpassing the current state-of-the-art accuracy, suggesting the genericity of the proposed method.

研究动机与目标

• 解决因标注数据有限导致 few-shot 分类中不确定性过高及统计性质欠佳的问题。
• 提升在真实场景中类别分布显著差异的未标注样本中，类别分布不均衡的归纳式 few-shot 学习设置下的性能。
• 开发一种方法，可在不依赖人工设定类别平衡假设的前提下，跨不同主干网络和数据集实现泛化。
• 通过将概率建模与降维结合，增强聚类鲁棒性，以更好地捕捉类别特定分布。

提出的方法

• 应用概率线性判别分析（PLDA）实现自适应降维，在保留类别判别信息的同时减小特征空间维度。
• 使用变分贝叶斯（VB）推断对聚类分配和不确定性进行建模，实现对类别隶属关系的灵活后验估计。
• 将 VB 推断与 PLDA 集成，联合优化聚类结构与低维表示，提升估计稳定性。
• 通过 Soft-KMEANS 初始化聚类，为后续使用 VB-PLDA 进行迭代优化提供稳健的初始点。
• 在预训练主干网络（如 WRN、ResNet-12）提取的特征上端到端应用该方法，实现模型间的可迁移性。
• 采用 95% 置信区间报告准确率并进行不确定性量化，提升结果的可靠性。

实验结果

研究问题

• RQ1 结合自适应降维的变分贝叶斯推断是否能提升在类别不平衡的归纳式 few-shot 设置下的分类准确率？
• RQ2 与 Soft-KMEANS 等标准聚类基线相比，所提方法在平衡与不平衡 Few-Shot 基准上的表现如何？
• RQ3 该方法是否能在不依赖人工类别平衡假设的前提下，跨不同主干架构和数据集实现泛化？
• RQ4 PLDA 与 VB 推断的集成在多大程度上降低了不确定性，并改善了学习聚类的统计性质？

主要发现

• 与 Soft-KMEANS 相比，BAVARDAGE 在类别不平衡的归纳式 few-shot 基准上准确率最高提升 6%，表明在真实场景中具有显著改进。
• 在 CUB 数据集上，BAVARDAGE 在 5-shot 不平衡设置下达到 93.50% 的准确率（使用 RN12*），超越了此前最先进结果。
• 该方法在平衡设置下也表现出具有竞争力的性能，且不依赖类别平衡的人工特征，表明其具备鲁棒性与泛化能力。
• 在 FC100 与 CIFAR-FS 上，BAVARDAGE 在不平衡设置下报告了新的最先进结果，而这些设置在先前工作中尚未被测试。
• 该方法在多种主干网络（WRN、ResNet-18、ResNet-12）上均保持高性能，显示出强大的通用性与可迁移性。
• 平均每 10,000 个 few-shot 任务的推理时间为 1.72 秒（单张 GPU），表明其具备实际效率。