[論文レビュー] Leaf Identification Using a Deep Convolutional Neural Network

Christoph Wick, Frank Puppe|arXiv (Cornell University)|Dec 4, 2017

Smart Agriculture and AI参考文献 17被引用数 8

ひとこと要約

本論文は、FlaviaおよびFoliageデータセットにおける限られた学習データの課題に対処するため、転移学習とリアルタイムのデータ拡張を活用した9層の深層畳み込みニューラルネットワーク（CNN）を提案する。この手法は、FlaviaおよびFoliageデータセットにおいて99%を超える最先端の認識率を達成し、従来のCNNおよび特徴量抽出ベースの手法を上回る性能を示した。特にFoliageデータセットにおいて顕著な優位性を示した。

ABSTRACT

Convolutional neural networks (CNNs) have become popular especially in computer vision in the last few years because they achieved outstanding performance on different tasks, such as image classifications. We propose a nine-layer CNN for leaf identification using the famous Flavia and Foliage datasets. Usually the supervised learning of deep CNNs requires huge datasets for training. However, the used datasets contain only a few examples per plant species. Therefore, we apply data augmentation and transfer learning to prevent our network from overfitting. The trained CNNs achieve recognition rates above 99% on the Flavia and Foliage datasets, and slightly outperform current methods for leaf classification.

研究の動機と目的

• FlaviaおよびFoliageデータセットにおける限られた学習例による低ショットの葉の分類の課題に対処すること。
• 小規模な葉画像データセット上で訓練された深層CNNにおける汎化性能の向上と過学習の防止。
• 転移学習、データ拡張、ドロップアウトの有効性を評価し、分類精度の向上に寄与するかを検証すること。
• 深層学習を用いた葉の識別において、新たな最先端のパフォーマンスを確立すること。
• 実世界の葉の変異に耐えるクロスデータセットの汎化能力を実現すること。

提案手法

• Caltech-256データセットを用いた教師あり事前学習により、ネットワーク重みを初期化する転移学習を用いて、9層のCNNアーキテクチャを訓練する。
• 画像はバウンディングボックスへの切り出し、344×344ピクセルへのリサイズ、および3ピクセルの白マージンを追加して350×350ピクセルにパディングすることで前処理される。
• トレーニング中に線形的かつラベルを保持する変換（例えば、ランダムな回転やスケーリング）を用いてリアルタイムのデータ拡張を実施し、無限に近いトレーニング変種を生成する。
• ドロップアウト層を統合してネットワークの正則化を図り、過学習を低減する。
• トレーニングには10×40または10×Allの分割戦略を採用し、各クラスに10枚の画像をテスト用に予約し、40枚を訓練用に割り当てている。Flaviaではランダムな分割を、Foliageでは固定の分割を適用する。
• 一般化性能を最適化するために、学習率の減少と重み減衰を伴う確率的勾配降下法を用いてモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 1種類あたり60～120枚の画像しか存在しない小規模なデータセットで、深層CNNが高い正確性を達成できるか？
• RQ2 データ拡張と転移学習は、葉の分類においてデータが少ない状況下で過学習を緩和するためにどの程度有効か？
• RQ3 トレーニング中にリアルタイムのデータ拡張を適用することで、事前拡張済みデータセットと比較してモデルの汎化性能が向上するか？
• RQ4 本手法のCNNは、特徴量抽出ベースの手法および従来のCNNと比較して、分類正確性において優れているか？
• RQ5 訓練されたCNNは、異なるデータセット間の実世界の葉の変異に対し、どの程度の汎化性能を示すか？

主な発見

• 提案手法のCNNは、FlaviaおよびFoliageデータセットの両方で99%を超える認識率を達成し、従来のCNNベースの手法を顕著に上回った。
• Foliageデータセットでは99.1%の正確性を達成し、SulcとMatasが報告した99.0%の最先端手法をわずかに上回った。
• Zhangらの7層CNN（Flaviaデータセットで約95%の正確性を達成）を上回ったことから、深層アーキテクチャの利点とより優れた正則化の有効性が示された。
• 誤分類のパターンは一方向の類似性を示しており、Cinnamomum camphora（クラス12）がChimonanthus（クラス13）に頻繁に誤分類されるが、逆は稀であった。
• 訓練データセットサイズの変化に対してもモデルの性能は安定しており、10×Allの分割が最も高い正確性を示したが、10×40と10×Allの構成間に有意差は認められなかった。
• 本研究では、特にドロップアウトと適切な重み初期化と組み合わせた際に、転移学習とリアルタイムのデータ拡張が、データが少ない状況下での高いパフォーマンスを達成するために不可欠であることが確認された。