[论文解读] A 1d convolutional network for leaf and time series classification

Dongyang Kuang|arXiv (Cornell University)|Jun 28, 2019

Smart Agriculture and AI参考文献 30被引用 5

一句话总结

本文提出一种仅以质心轮廓距离曲线（CCDC）为输入的1D卷积神经网络（1D-CNN），实现了与使用多种手工设计特征的方法相当的最先进性能。该模型兼具端到端分类器与通用特征提取器的功能，对1D时间序列分类具有强大的泛化能力，其有效性通过基准数据集和Grad-CAM等可解释性技术得到验证。

ABSTRACT

In this paper, a 1d convolutional neural network is designed for classification tasks of plant leaves. This network based classifier is analyzed in two directions. In the forward direction, the proposed network can be used in two ways: a classifier and an automatic feature extractor. As a classifier, it takes the simple centroid contour distance curve as the single feature and achieves comparable performance with state-of-art methods that usually require multiple extracted features. As a feature extractor, it produces nearly linear separable features, hence can be used together with other classifiers such as support vector machines to provide better performance. The proposed network adopts simple 1d input and is generally applicable for other tasks such as classifying one dimensional time series in an end-to-end fashion without changes. Experiments on some benchmark datasets show this architecture can provide classification accuracies that are comparable or higher than some existing methods. In the backward direction, methods like gradient-weighted class activation mapping and maximum activation map of neurons in the classification layer with respect to inputs are performed to help investigate and further validate that hidden signatures helping trigger the trained classifier's specific decisions can be human interpretable. Code for the paper is available at https://github.com/dykuang/Leaf_Project.

研究动机与目标

• 开发一种简单、端到端的1D-CNN分类器，仅使用易于提取的最小特征（如CCDC）进行植物叶片识别。
• 评估单一低维形状描述符（CCDC）在与深度学习结合时，是否能够实现高分类准确率。
• 通过将其应用于多样化的1D时间序列数据集，证明该模型在叶片分类之外的泛化能力。
• 利用梯度加权类激活映射（Grad-CAM）等可视化技术，实现模型决策过程的可解释性。
• 提供一种通用特征提取器，当与SVM或kNN等下游分类器结合时可提升性能。

提出的方法

• 该模型采用包含多个卷积层和池化层的1D卷积神经网络架构，用于处理1D CCDC特征序列。
• 输入为单一、简单的1D特征——质心轮廓距离曲线（CCDC），该特征源自叶片形状，避免了复杂的特征工程。
• 网络以端到端方式训练，可直接从原始CCDC输入进行分类，无需额外预处理。
• 在特征提取方面，利用网络的中间层生成近似线性可分的特征，从而提升下游分类器的性能。
• 通过梯度加权类激活映射（Grad-CAM）和激活最大化技术实现可解释性，可视化触发特定预测的输入区域。
• 相同架构被应用于四个UEA & UCR时间序列数据集，且未作架构修改，证明其在1D序列任务中的泛化能力。

实验结果

研究问题

• RQ1 仅使用CCDC作为输入，1D-CNN是否能在叶片分类任务中实现高准确率，而无需依赖多种手工设计特征？
• RQ2 1D-CNN是否能从CCDC输入中学习到具有判别性且人类可解释的模式，这些模式与有意义的生物学或形状层面差异相对应？
• RQ3 训练好的1D-CNN是否可作为通用特征提取器，当与SVM或kNN等传统分类器结合时，能提升性能？
• RQ4 1D-CNN在叶片分类之外的其他1D时间序列分类任务中，泛化能力如何？
• RQ5 Grad-CAM和激活图等可视化技术在多大程度上能够揭示网络的决策过程？

主要发现

• 在UCI 100-leaf数据集上，1D-CNN仅使用CCDC特征即达到73.99% ± 3.72%的准确率，优于依赖多种特征的方法。
• 当与SVM结合时，1D-CNN在完整3-feature输入上达到99.43% ± 0.62%的准确率，超过该基准上报告的最佳方法。
• 在ChlorineConcentration时间序列数据集上，1D-CNN达到99.77%的准确率，超过此前报告的最佳方法（SVM-Q，准确率为84.57%）。
• 在InsectWingbeatSound数据集上，模型准确率达到76.61%，优于报告的最佳方法（RF，准确率为63.89%）。
• 在ElectricDevices数据集上准确率达到94.34%，在DistalPhalanXTW数据集上达到71.22%，均超过各自报告的最佳结果。
• 可视化技术证实，网络学习到了与类别判别特征相关的CCDC中局部、有意义的模式，增强了模型的可解释性。