[论文解读] The Role of Global Labels in Few-Shot Classification and How to Infer Them

Ruohan Wang, Massimiliano Pontil+1 more|arXiv (Cornell University)|Aug 9, 2021

Domain Adaptation and Few-Shot Learning参考文献 28被引用 5

一句话总结

该论文提出了一种新型元学习框架——MetaLabel Learning（MeLa），通过从局部任务标签中推断潜在的全局标签，实现在少样本学习中的有效特征预训练。利用这些推断出的标签，MeLa在tiered ImageNet和MetaDataset等基准数据集上取得了最先进性能，证明即使在无法获取真实全局标签的情况下，预训练依然极为有效。

ABSTRACT

Few-shot learning is a central problem in meta-learning, where learners must quickly adapt to new tasks given limited training data. Recently, feature pre-training has become a ubiquitous component in state-of-the-art meta-learning methods and is shown to provide significant performance improvement. However, there is limited theoretical understanding of the connection between pre-training and meta-learning. Further, pre-training requires global labels shared across tasks, which may be unavailable in practice. In this paper, we show why exploiting pre-training is theoretically advantageous for meta-learning, and in particular the critical role of global labels. This motivates us to propose Meta Label Learning (MeLa), a novel meta-learning framework that automatically infers global labels to obtains robust few-shot models. Empirically, we demonstrate that MeLa is competitive with existing methods and provide extensive ablation experiments to highlight its key properties.

研究动机与目标

• 从理论上解释为何特征预训练能提升少样本学习中的元学习性能。
• 解决预训练依赖全局标签的局限性，而这些标签在现实世界中独立标注的任务设置下通常不可用。
• 开发一种实用框架，自动从局部任务约束中推断一致的全局标签，以实现在此类设置下的预训练。
• 通过实证验证，使用推断标签进行预训练仍能获得与最先进方法相当的鲁棒泛化性能。

提出的方法

• MeLa将全局标签推断问题建模为一个约束聚类任务，其中每个任务的局部标签被用作约束条件。
• 它施加两个关键约束：(1) 在同一任务中具有相同局部标签的所有样本必须被分配到同一个全局聚类中；(2) 全局聚类的数量必须与任务间唯一局部标签的数量相匹配。
• 该方法使用可微聚类目标，联合优化嵌入空间与全局标签分配，支持端到端训练。
• 它利用推断出的全局标签在合并数据集上进行特征预训练，随后用于初始化元学习器。
• 该框架通过联合目标进行训练，以平衡元学习性能与准确的全局标签推断。
• 该方法在tiered ImageNet和MetaDataset上进行了评估，消融研究证实了局部约束在标签推断中的重要性。

实验结果

研究问题

• RQ1 为何特征预训练能在少样本元学习中带来显著性能提升？其与元学习之间存在何种理论联系？
• RQ2 当全局标签不可直接获取时，能否有效从局部任务标签中推断出全局标签？
• RQ3 使用推断出的全局标签进行预训练，是否仍能在少样本学习中实现强大的泛化性能？
• RQ4 局部任务约束如何影响全局标签推断的准确性和鲁棒性？

主要发现

• 在MetaDataset（Aircraft, CUB, VGG-F lower）上，MeLa在1-shot时达到66.3%准确率，5-shot时达到82.4%，优于未进行预训练的FEAT和FRN方法。
• 在tiered ImageNet上，MeLa在1-shot时达到69.0%准确率，5-shot时达到84.1%，尽管缺乏真实全局标签，仍表现出具有竞争力的性能。
• 在MetaDataset上，聚类准确率达到79.3%，94.7%的任务成功完成聚类，表明MeLa即使在存在噪声或多样标注的情况下，也能可靠地推断全局标签。
• 消融研究显示，强制执行局部约束——尤其是将相同局部标签的样本分组——能显著提升标签推断准确率与下游性能。
• 当忽略局部约束时，tiered ImageNet上的测试准确率下降超过5%，证实了其在鲁棒标签推断中的关键作用。
• 该方法在随机初始化和基线模型上均表现出一致的性能提升，MetaDataset上提升超过4%，验证了即使使用推断标签，预训练依然有效。