[論文レビュー] Feature Evaluation of Deep Convolutional Neural Networks for Object Recognition and Detection

Hirokatsu Kataoka, Kenji Iwata+1 more|arXiv (Cornell University)|Sep 25, 2015

Advanced Neural Network Applications参考文献 13被引用数 18

ひとこと要約

この論文は、オブジェクト認識および検出のためのAlexNetとVGGNetの中間層および全結合層からの特徴表現を評価する。複数の層からの特徴を連結し、PCAを適用することで、中程度および後段の畳み込み層—特にVGGNetの層5—が従来の全結合層を上回ることが判明した。特徴の融合により、Daimler歩行者データセットでは99.38%、Caltech 101では92.00%の精度に到達した。

ABSTRACT

In this paper, we evaluate convolutional neural network (CNN) features using the AlexNet architecture and very deep convolutional network (VGGNet) architecture. To date, most CNN researchers have employed the last layers before output, which were extracted from the fully connected feature layers. However, since it is unlikely that feature representation effectiveness is dependent on the problem, this study evaluates additional convolutional layers that are adjacent to fully connected layers, in addition to executing simple tuning for feature concatenation (e.g., layer 3 + layer 5 + layer 7) and transformation, using tools such as principal component analysis. In our experiments, we carried out detection and classification tasks using the Caltech 101 and Daimler Pedestrian Benchmark Datasets.

研究の動機と目的

• 深層CNNの途中の畳み込み層からの特徴が、オブジェクト認識タスクにおいて、全結合層からの特徴を上回るかどうかを調査すること。
• 複数の層（例：層3、5、7）における特徴の連結が、認識性能の向上にどの程度効果的かを評価すること。
• 次元削減としてのPCAが、CNN特徴表現の検出および分類性能に与える影響を評価すること。
• 標準ベンチマークであるCaltech 101およびDaimler歩行者ベンチマークにおいて、AlexNetとVGGNetという2つの代表的なアーキテクチャの性能を比較すること。
• 特定の層の特徴が、データセットやタスクに応じてその有用性を変えるかどうかを検証し、最後の全結合層が最適であるという仮定に疑問を呈すること。

提案手法

• 事前に学習済みのAlexNetおよびVGGNetモデルの複数の層（層3〜7）から特徴を抽出し、マックスプーリング層および全結合層を含む。
• 非隣接および隣接する層（例：層3,5,7および層3,4,5）の特徴を連結することで、階層的表現を統合する。
• 特徴の圧縮とノイズ低減を目的として、1,500成分に設定した主成分分析（PCA）を用いて次元削減を実施。
• 分類および検出タスクの両方において、抽出および変換された特徴を用いてサポートベクターマシン（SVM）分類器を学習。
• 評価のための標準ベンチマークとして、101種類のオブジェクトカテゴリを含むCaltech 101および歩行者検出を目的としたDaimler Pedestrian Benchmarkを用いる。
• 異なる層の組み合わせ、アーキテクチャ、前処理手法の性能を比較し、最適な特徴構成を同定する。

実験結果

リサーチクエスチョン

• RQ1 AlexNetおよびVGGNetの途中の畳み込み層（例：層3〜7）からの特徴は、オブジェクト認識タスクにおいて、最終の全結合層からの特徴を上回るか？
• RQ2 複数の層（例：層3,5,7）からの特徴を連結することで、個別の層を使用する場合と比較して認識精度がどの程度向上するか？
• RQ3 CNN特徴にPCAを適用することで、分類および検出性能が向上するか？もしあるならば、どの層が最も恩恵を受けるか？
• RQ4 同じデータセット上で、AlexNetとVGGNetを特徴抽出器として用いた場合、性能特性にどのような差が生じるか？
• RQ5 特定の層（例：層5）が、異なるデータセットおよびアーキテクチャにおいて一貫して最高の認識精度を示すか？

主な発見

• VGGNetの層5は、Daimler歩行者ベンチマークで99.35%の精度を達成し、他のすべての層およびアーキテクチャを上回った。
• Caltech 101データセットでは、VGGNetの層5が91.8%の精度を記録し、同じ層におけるAlexNetの78.37%を顕著に上回った。
• VGGNetの層5,6,7の特徴を連結した結果、Caltech 101で92.00%、Daimlerデータセットで99.38%の最高精度を達成した。
• PCA変換により、Daimlerデータセットでの認識精度が最大+0.44%向上し、特にVGGNetの層5および層4が顕著な恩恵を受けていた。
• AlexNetの層3は、Daimlerデータセットで98.71%の精度を達成し、その全結合層を上回った。これは、初期〜中程度の特徴が非常に有効である可能性を示唆している。
• 本研究では、全結合層が常に最適であるとは限らず、特に分類器に近い深い畳み込み層からの特徴が、認識タスクにおいて優れた表現を提供することが示された。