[论文解读] Self-Supervised Learning in Deep Networks: A Pathway to Robust Few-Shot Classification

Yuyang Xiao|arXiv (Cornell University)|Nov 19, 2024

Machine Learning and Data Classification被引用 7

一句话总结

该论文表明，在对 Mini-ImageNet 进行微调前，先用自监督学习在未标记数据上对 ResNet-101 进行预训练，可获得强大的小样本分类性能，在基准测试中达到大约 95.12% 的 ACC/F1。

ABSTRACT

This study aims to optimize the few-shot image classification task and improve the model's feature extraction and classification performance by combining self-supervised learning with the deep network model ResNet-101. During the training process, we first pre-train the model with self-supervision to enable it to learn common feature expressions on a large amount of unlabeled data; then fine-tune it on the few-shot dataset Mini-ImageNet to improve the model's accuracy and generalization ability under limited data. The experimental results show that compared with traditional convolutional neural networks, ResNet-50, DenseNet, and other models, our method has achieved excellent performance of about 95.12% in classification accuracy (ACC) and F1 score, verifying the effectiveness of self-supervised learning in few-shot classification. This method provides an efficient and reliable solution for the field of few-shot image classification.

研究动机与目标

• 通过在有限标签下改进特征提取和泛化来提升小样本图像分类的动机。
• 研究自监督预训练对深度网络（ResNet-101）在小样本任务上的益处。
• 证明所提自监督流程在与传统 CNN 的标准基准比较时的有效性。

提出的方法

• 在大规模未标记数据集上使用自监督学习对深度网络（ResNet-101）进行预训练。
• 在少量标记的小样本数据集（Mini-ImageNet）上微调预训练模型。
• 评估分类准确率（ACC）和 F1 分数以评估性能和泛化。

实验结果

研究问题

• RQ1 与标准有监督预训练相比，自监督预训练是否能改善小样本分类的特征提取？
• RQ2 在自监督预训练后，ResNet-101 模型能否在 Mini-ImageNet 上实现稳健的小样本性能？
• RQ3 在小样本设置中，ACC 和 F1 分数与传统 CNN 基线相比如何？

主要发现

• 自监督预训练后再进行微调可实现强的小样本分类性能。
• 在评估任务中，报告的准确率指标在 ACC 和 F1 上约达到 95.12%。
• 该方法在小样本阶段优于例如 ResNet-50 和 DenseNet 等传统 CNN（如摘要中所述）。