[论文解读] Few-shot Learning as Cluster-induced Voronoi Diagrams: A Geometric Approach

Chunwei Ma, Ziyun Huang+2 more|arXiv (Cornell University)|Feb 5, 2022

Domain Adaptation and Few-Shot Learning被引用 4

一句话总结

该论文提出 DeepVoro，一种用于少样本学习的几何框架，通过利用聚类诱导的 Voronoi 图（CIVD）来建模特征空间中聚类到点以及聚类到聚类的影响，从而改进决策边界的建模。该方法在 mini-ImageNet、CUB 和 tiered-ImageNet 上实现了最先进性能，相比之前的方法准确率提升 2%–5%，通过实现鲁棒、快速的几何集成并缓解低数据场景下的过拟合问题。

ABSTRACT

Few-shot learning (FSL) is the process of rapid generalization from abundant base samples to inadequate novel samples. Despite extensive research in recent years, FSL is still not yet able to generate satisfactory solutions for a wide range of real-world applications. To confront this challenge, we study the FSL problem from a geometric point of view in this paper. One observation is that the widely embraced ProtoNet model is essentially a Voronoi Diagram (VD) in the feature space. We retrofit it by making use of a recent advance in computational geometry called Cluster-induced Voronoi Diagram (CIVD). Starting from the simplest nearest neighbor model, CIVD gradually incorporates cluster-to-point and then cluster-to-cluster relationships for space subdivision, which is used to improve the accuracy and robustness at multiple stages of FSL. Specifically, we use CIVD (1) to integrate parametric and nonparametric few-shot classifiers; (2) to combine feature representation and surrogate representation; (3) and to leverage feature-level, transformation-level, and geometry-level heterogeneities for a better ensemble. Our CIVD-based workflow enables us to achieve new state-of-the-art results on mini-ImageNet, CUB, and tiered-ImagenNet datasets, with ${\sim}2\%{-}5\%$ improvements upon the next best. To summarize, CIVD provides a mathematically elegant and geometrically interpretable framework that compensates for extreme data insufficiency, prevents overfitting, and allows for fast geometric ensemble for thousands of individual VD. These together make FSL stronger.

研究动机与目标

• 通过引入一种基于几何的框架，建模超越简单点基 Voronoi 图的复杂决策边界，以应对少样本学习中的数据不足问题。
• 通过引入基于聚类的关联关系，克服现有方法（如 ProtoNet）依赖点对点距离和线性中垂线的局限，实现更精细的决策边界建模。
• 通过整合特征表示、代理表示以及多种异质性（特征、变换、几何）于统一的几何集成框架中，提升模型的鲁棒性和泛化能力。
• 在多样化的少样本基准上实现最先进性能，同时保持计算效率和可解释性。

提出的方法

• 采用聚类诱导的 Voronoi 图（CIVD）作为核心几何结构，将传统 Voronoi 图从点对点推广至基于聚类到点和聚类到聚类影响的区域划分。
• 将 CIVD 集成到多阶段少样本学习流程中，利用参数化和非参数化分类器联合建模决策边界，提升准确率和鲁棒性。
• 利用 CIVD 将特征级、变换级和几何级异质性整合到单一集成框架中，实现快速且高效的模型融合。
• 采用可微分的 CIVD 构建过程，确保 $(1+\epsilon)$-近似，且图的大小接近线性，兼顾准确率与效率。
• 设计 DeepVoro 和 DeepVoro++ 作为端到端模型，利用 CIVD 进行预测，通过调优超参数 $\beta$、$R$、$\lambda$ 和 $b$ 实现最优性能。
• 在归纳和归纳外设置中应用 CIVD，通过几何方差分析证明其在分布偏移下具有稳定性，并对异常支持集具有鲁棒性。

实验结果

研究问题

• RQ1 基于聚类诱导的 Voronoi 图的几何框架是否能够超越点基原型，在少样本分类中改进决策边界的建模？
• RQ2 引入聚类到点和聚类到聚类的影响关系，如何在低样本场景下提升模型的鲁棒性和准确率？
• RQ3 CIVD 基于的模型在多大程度上能够缓解过拟合并应对少样本学习中的数据不足问题？
• RQ4 在分布偏移和存在异常支持集的情况下，所提出方法的表现如何？
• RQ5 CIVD 是否能够实现跨多种特征提取器和元训练策略的有效几何集成？

主要发现

• 在 1-shot mini-ImageNet 上，DeepVoro 达到 68.80% 的准确率，在 5-shot 上达到 85.70%，优于 DC（66.43% 和 82.61%）和 S2M2_R（58.33% 和 79.26%），且在旋转损失设置下表现更优。
• 采用流形混合训练后，DeepVoro 在 1-shot 上达到 65.00%，在 5-shot 上达到 83.19%，优于 DC（62.61% 和 78.62%）和 S2M2_R（48.11% 和 72.74%）。
• 在跨域少样本学习中，DeepVoro 在 1-shot（CUB → mini-ImageNet）上提升 6.68%，在 5-shot 上提升 6.51%，显著优于 S2M2_R，展现出强大的域泛化能力。
• DeepVoro++ 将旋转损失与流形混合训练之间的性能差距从 10.22%（1-shot）缩小至 3.98%，表明其更好地利用了多样化的预训练方案。
• 该方法对异常值表现出卓越的鲁棒性：包含高几何方差（指示异常值存在）的训练任务中，基线模型准确率显著下降，而 DeepVoro 保持稳定性能。
• CIVD 基于的模型在所有基准上均达到最先进水平，相比次优方法一致提升 2%–5%，验证了该几何框架的有效性。