[論文レビュー] A 1d convolutional network for leaf and time series classification

Dongyang Kuang|arXiv (Cornell University)|Jun 28, 2019

Smart Agriculture and AI参考文献 30被引用数 5

ひとこと要約

本稿では、植物の葉の分類に、中心線からの距離曲線（CCDC）のみを入力として使用する1次元畳み込みニューラルネットワーク（1D-CNN）を提案する。このモデルは、複数の手作業特徴量を用いる手法と同等の最先端性能を達成しており、エンドツーエンド分類器としても、普遍的な特徴抽出器としても機能する。1次元時系列分類への汎用性は、ベンチマークデータセットとGrad-CAMのような解釈可能性技術によって検証された。

ABSTRACT

In this paper, a 1d convolutional neural network is designed for classification tasks of plant leaves. This network based classifier is analyzed in two directions. In the forward direction, the proposed network can be used in two ways: a classifier and an automatic feature extractor. As a classifier, it takes the simple centroid contour distance curve as the single feature and achieves comparable performance with state-of-art methods that usually require multiple extracted features. As a feature extractor, it produces nearly linear separable features, hence can be used together with other classifiers such as support vector machines to provide better performance. The proposed network adopts simple 1d input and is generally applicable for other tasks such as classifying one dimensional time series in an end-to-end fashion without changes. Experiments on some benchmark datasets show this architecture can provide classification accuracies that are comparable or higher than some existing methods. In the backward direction, methods like gradient-weighted class activation mapping and maximum activation map of neurons in the classification layer with respect to inputs are performed to help investigate and further validate that hidden signatures helping trigger the trained classifier's specific decisions can be human interpretable. Code for the paper is available at https://github.com/dykuang/Leaf_Project.

研究の動機と目的

• 中心線からの距離曲線（CCDC）といった、単純で容易に抽出可能な特徴量のみを用いて、植物の葉認識に向けたシンプルでエンドツーエンドの1D-CNN分類器を開発すること。
• 1つの低次元の形状記述子（CCDC）が、深層学習と組み合わせることで高い分類精度を達成できるかどうかを評価すること。
• このモデルが、葉の分類をはるかに超えて、多様な1次元時系列データセットへの汎用性を示すことを実証すること。
• 勾配重み付きクラス活性化マッピング（Grad-CAM）などの可視化技術を用いて、モデルの意思決定プロセスを解釈可能にする。
• SVMやkNNのような下流分類器と組み合わせて性能を向上させる普遍的な特徴抽出器を提供すること。

提案手法

• モデルは、1次元CCDC特徴量シーケンスを処理するための、複数の畳み込み層およびプーリング層を備えた1次元畳み込みニューラルネットワークアーキテクチャを採用する。
• 入力は、葉の形状から得られる単一で簡単な1次元特徴量である中心線からの距離曲線（CCDC）であり、複雑な特徴工学を回避する。
• ネットワークはエンドツーエンドで訓練され、CCDC入力を直接分類可能にするために追加の前処理を不要とする。
• 特徴抽出の目的では、ネットワークの中間層を用いて、ほぼ線形に分離可能な特徴量を生成し、下流分類器の性能を向上させる。
• 解釈可能性は、勾配重み付きクラス活性化マッピング（Grad-CAM）と活性化最大化を用いて達成され、特定の予測を引き起こす入力領域を可視化する。
• 同じアーキテクチャを、アーキテクチャの変更なしに4つのUEA & UCR時系列データセットに適用し、1次元シーケンス処理タスクへの汎用性を実証した。

実験結果

リサーチクエスチョン

• RQ1 CCDCを唯一の入力として用いる1次元CNNが、複数の手作業特徴量に依存せずに、葉の分類で高い精度を達成できるか？
• RQ2 1次元CNNが、生物学的または形状レベルの意味のある違いに対応する、人間が解釈可能な明確なパターンをCCDC入力から学習するか？
• RQ3 学習済みの1次元CNNが、SVMやkNNのような従来の分類器と組み合わせることで、普遍的な特徴抽出器として機能し、性能を向上させられるか？
• RQ4 1次元CNNは、葉の分類をはるかに超えて、他の1次元時系列分類タスクへどの程度汎用性を示せるか？
• RQ5 Grad-CAMや活性化マップのような可視化技術が、ネットワークの意思決定プロセスをどの程度明らかにできるか？

主な発見

• UCI 100-leafデータセットにおいて、1D-CNNはCCDC特徴量のみを用いて73.99% ± 3.72%の精度を達成し、複数の特徴量に依存する手法を上回った。
• SVMと組み合わせた場合、1D-CNNは全3特徴量入力で99.43% ± 0.62%の精度を達成し、このベンチマークで報告された最高性能を上回った。
• ChlorineConcentration時系列データセットでは99.77%の精度を達成し、以前に報告された最高手法（SVM-Q：84.57%）を上回った。
• InsectWingbeatSoundデータセットでは76.61%の精度を達成し、報告された最高手法（RF：63.89%）を上回った。
• ElectricDevicesでは94.34%、DistalPhalanXTWでは71.22%の精度を達成し、両方のデータセットでそれぞれ報告された最高結果を上回った。
• 可視化技術により、ネットワークがクラス判別的特徴と関連する意味のある局所的パターンをCCDC内に学習していることが確認され、モデルの解釈可能性が向上した。