[论文解读] MetaDelta: A Meta-Learning System for Few-shot Image Classification

Yudong Chen, Chaoyu Guan+3 more|arXiv (Cornell University)|Feb 22, 2021

Domain Adaptation and Few-Shot Learning参考文献 24被引用 5

一句话总结

MetaDelta 是一种用于少样本图像分类的实用元学习系统，通过使用多种具有不同主干网络的元学习器以及一个元集成推理模块，提升了效率和泛化能力。它通过结合微调的预训练编码器、无参数解码器以及资源感知训练与晚期融合预测的中央控制器，在 AAAI 2021 元深度学习挑战赛中排名第一。

ABSTRACT

Meta-learning aims at learning quickly on novel tasks with limited data by transferring generic experience learned from previous tasks. Naturally, few-shot learning has been one of the most popular applications for meta-learning. However, existing meta-learning algorithms rarely consider the time and resource efficiency or the generalization capacity for unknown datasets, which limits their applicability in real-world scenarios. In this paper, we propose MetaDelta, a novel practical meta-learning system for the few-shot image classification. MetaDelta consists of two core components: i) multiple meta-learners supervised by a central controller to ensure efficiency, and ii) a meta-ensemble module in charge of integrated inference and better generalization. In particular, each meta-learner in MetaDelta is composed of a unique pretrained encoder fine-tuned by batch training and parameter-free decoder used for prediction. MetaDelta ranks first in the final phase in the AAAI 2021 MetaDL Challenge\footnote{https://competitions.codalab.org/competitions/26638}, demonstrating the advantages of our proposed system. The codes are publicly available at https://github.com/Frozenmad/MetaDelta.

研究动机与目标

• 解决现有元学习算法在少样本学习中时间与资源效率不足的问题。
• 在无需手动调整超参数的情况下，提升对未知或未见数据集的泛化能力。
• 设计一种适用于预算受限条件下实际部署的实用元学习系统。
• 通过跨多样化元学习器的元集成学习，提升模型的鲁棒性与性能。

提出的方法

• MetaDelta 采用多个元学习器并行训练，由中央控制器管理时间与内存预算。
• 每个元学习器使用预训练的 CNN 编码器（例如 ResNet50）通过支持集上的小批量训练进行微调。
• 在元测试期间使用无参数解码器（例如 ProtoNet、MCT）实现快速推理，无需额外训练。
• 系统应用晚期融合元集成模块，结合多个元学习器的预测结果以提升泛化能力。
• 通过在验证阶段使用欧几里得距离解码器、测试阶段使用 MCT 解码器，最小化超参数调优。
• 使用多进程加速不同主干网络与解码器的训练。

实验结果

研究问题

• RQ1 元学习系统是否能在保持时间与资源效率的同时，实现少样本图像分类的高性能？
• RQ2 多样化的元学习器组成的元集成如何提升在未知数据集上的泛化能力？
• RQ3 为何基于度量的方法（如 ProtoNet）在少样本图像分类中优于基于优化的方法（如 MAML）？
• RQ4 不同主干网络与解码器在不同数据集上对模型性能的影响程度如何？

主要发现

• MetaDelta 在 AAAI 2021 元深度学习挑战赛最终阶段取得了最高准确率，所有参赛作品中排名第一。
• Base+Rot+MCT 基线模型（ResNet50 搭配旋转损失与 MCT 解码器）在 CIFAR-100 上达到 52.72% 的准确率，在 tieredImageNet 上达到 49.72%。
• 基于 ProtoNet 的模型在所有数据集上均持续优于基于 MAML 的模型，表明其对图像数据具有更强的归纳偏置。
• 在所测试的主干网络中，ResNet50 和 WRN50 表现最佳，其中 ResNet50 在 CIFAR-100 上达到 52.72% 的准确率。
• MCT 解码器优于其他解码器，在 CIFAR-100 上达到 52.72% 的准确率，而欧几里得与拉普拉斯解码器表现相当但略低。
• 元集成策略显著提升了泛化能力，尤其是在未见数据集上，通过结合多个多样化元学习器的预测结果实现。