[论文解读] A Comparative Study of Deep Learning Classification Methods on a Small Environmental Microorganism Image Dataset (EMDS-6): from Convolutional Neural Networks to Visual Transformers

Peng Zhao, Chen Li+6 more|arXiv (Cornell University)|Jul 16, 2021

Cell Image Analysis Techniques被引用 4

一句话总结

本研究在小型环境微生物图像数据集（EMDS-6）上评估了21种深度学习模型（涵盖CNN与视觉Transformer（ViTs）），以识别在数据量有限场景下的最优模型架构。Xception在分类准确率上表现最佳，ViT训练速度最快，ShuffleNet-V2参数量最少；由于其基于注意力机制的全局特征学习机制，几何数据增强对ViT模型效果甚微。

ABSTRACT

In recent years, deep learning has made brilliant achievements in Environmental Microorganism (EM) image classification. However, image classification of small EM datasets has still not obtained good research results. Therefore, researchers need to spend a lot of time searching for models with good classification performance and suitable for the current equipment working environment. To provide reliable references for researchers, we conduct a series of comparison experiments on 21 deep learning models. The experiment includes direct classification, imbalanced training, and hyperparameter tuning experiments. During the experiments, we find complementarities among the 21 models, which is the basis for feature fusion related experiments. We also find that the data augmentation method of geometric deformation is difficult to improve the performance of VTs (ViT, DeiT, BotNet and T2T-ViT) series models. In terms of model performance, Xception has the best classification performance, the ViT model consumes the least time for training, and the ShuffleNet-V2 model has the least number of parameters.

研究动机与目标

• 识别在小型环境微生物图像数据集（EMDS-6）上表现更优的深度学习模型，该数据集在真实世界的生物与环境研究中普遍存在。
• 评估数据增强（特别是几何形变）对卷积神经网络（CNNs）与视觉Transformer（VTs）的影响。
• 分析超参数调优（学习率、批量大小）在小样本场景下对模型收敛与性能的影响。
• 分析不同模型架构在准确率、训练时间与参数量之间的权衡，以支持在资源受限环境中的部署。
• 为研究人员在选择模型或设计基于不同架构互补性能的集成/融合策略时提供比较参考。

提出的方法

• 在EMDS-6数据集上对比了17种CNN（如ResNet、DenseNet、VGG、Inception、Xception、MobileNet、ShuffleNet）与4种视觉Transformer（ViT、DeiT、T2T-ViT、BotNet）。
• 设计了三种实验设置：直接分类、通过旋转与镜像进行数据增强（实现6倍数据扩展）、在类别不平衡子集上进行不平衡训练。
• 将输入图像统一标准化为224×224分辨率，并采用标准训练协议，损失函数为交叉熵，优化器为Adam。
• 通过超参数消融研究，调整学习率与批量大小，评估其在小样本设置下的敏感性。
• 采用特征融合分析识别模型间的互补行为，为未来集成模型设计提供支持。
• 使用标准指标评估模型性能：准确率、训练时间与参数数量。

实验结果

研究问题

• RQ1 在小型EMDS-6数据集上，哪种深度学习架构实现了最高的分类准确率？
• RQ2 与CNN相比，几何数据增强（旋转、镜像）在提升视觉Transformer模型性能方面的有效性如何？
• RQ3 在小样本图像分类中，学习率与批量大小等超参数如何影响模型收敛与准确率？
• RQ4 在本小样本设置下，不同架构在准确率、训练时间与参数量之间的权衡关系如何？
• RQ5 为何几何数据增强无法提升ViT性能？这对其归纳偏置意味着什么？

主要发现

• Xception在EMDS-6数据集上所有测试模型中实现了最高分类准确率，优于其他CNN与ViT模型。
• 视觉Transformer（ViT、DeiT、T2T-ViT）训练时间最短，其中ViT最快，表明其在大规模数据扩展中具有高效率。
• ShuffleNet-V2参数量最少（低于100万），尽管准确率中等，但非常适合在内存受限环境中部署。
• 几何数据增强（旋转与镜像）显著提升了CNN性能，但对ViT系列模型影响微弱甚至为负，原因在于其基于注意力机制的全局特征学习机制。
• 采用更深架构的VGG网络（VGG16、VGG19）在EMDS-6上未能收敛，可能由于小样本数据集中的梯度消失问题。
• 超参数调优对性能影响显著，尤其在小样本数据集中，学习率或批量大小的微小变化即引发准确率大幅波动，尤其在使用批量归一化的模型中更为明显。