[论文解读] Leaf Identification Using a Deep Convolutional Neural Network

Christoph Wick, Frank Puppe|arXiv (Cornell University)|Dec 4, 2017

Smart Agriculture and AI参考文献 17被引用 8

一句话总结

本文提出一种9层深度卷积神经网络（CNN）用于叶片识别，通过迁移学习和实时数据增强技术，克服了Flavia和Foliage数据集中训练数据有限的问题。该方法在识别准确率上达到99%以上，优于以往基于CNN和手工设计特征的方法，尤其在Foliage数据集上表现突出。

ABSTRACT

Convolutional neural networks (CNNs) have become popular especially in computer vision in the last few years because they achieved outstanding performance on different tasks, such as image classifications. We propose a nine-layer CNN for leaf identification using the famous Flavia and Foliage datasets. Usually the supervised learning of deep CNNs requires huge datasets for training. However, the used datasets contain only a few examples per plant species. Therefore, we apply data augmentation and transfer learning to prevent our network from overfitting. The trained CNNs achieve recognition rates above 99% on the Flavia and Foliage datasets, and slightly outperform current methods for leaf classification.

研究动机与目标

• 解决因Flavia和Foliage数据集中训练样本有限而导致的少样本叶片分类挑战。
• 提升在小规模叶片图像数据集上训练的深度CNN的泛化能力，防止过拟合。
• 评估迁移学习、数据增强和Dropout在提升分类准确率方面的有效性。
• 通过深度学习建立叶片识别的新SOTA性能。
• 通过在真实世界叶片变异上测试模型，实现跨数据集的泛化能力。

提出的方法

• 使用Caltech-256数据集进行监督预训练，通过迁移学习初始化网络权重，训练一个9层CNN架构。
• 图像通过裁剪至边界框、缩放至344×344像素，并通过3像素白色边距填充至350×350像素进行预处理。
• 在训练过程中应用实时数据增强，采用保持标签不变的线性变换，如随机旋转和缩放，有效生成无限多的训练变体。
• 集成Dropout层以正则化网络并减少过拟合。
• 采用10×40或10×All的划分策略进行训练，其中每类保留10张图像用于测试，40张用于训练，Flavia数据集采用随机划分，Foliage数据集采用固定划分。
• 使用带有学习率衰减和权重衰减的随机梯度下降进行训练，以优化泛化性能。

实验结果

研究问题

• RQ1 当每类仅使用60至120张图像的极小数据集进行训练时，深度CNN是否能在叶片识别中实现高准确率？
• RQ2 在叶片分类的低数据环境下，数据增强和迁移学习在缓解过拟合方面的有效性如何？
• RQ3 与预增强数据集相比，在训练过程中使用实时数据增强是否能提升模型的泛化能力？
• RQ4 与基于手工特征的方法及先前的CNN相比，所提出的CNN在分类准确率方面表现如何？
• RQ5 训练好的CNN在不同数据集间的实际叶片变异上，其泛化能力达到何种程度？

主要发现

• 所提出的CNN在Flavia和Foliage数据集上均实现了超过99%的识别率，显著优于以往基于CNN的方法。
• 在Foliage数据集上，该方法达到99.1%的准确率，略高于Sulc和Matas提出的SOTA方法（报告准确率为99.0%）。
• 该模型优于Zhang等人提出的7层CNN（在Flavia数据集上准确率约为95%），证明了更深网络结构与更优正则化策略的优势。
• 误分类模式显示单向相似性，例如Cinnamomum camphora（第12类）常被误分类为Chimonanthus（第13类），但反之则不然。
• 该模型在不同训练集大小下表现稳健，10×All划分配置取得最高准确率，但10×40与10×All配置之间未发现统计学上显著差异。
• 研究证实，迁移学习与实时数据增强在低数据环境下实现高性能至关重要，尤其当与Dropout及合适的权重初始化结合时。