[論文レビュー] Convolutional Channel Features: Tailoring CNN to Diverse Tasks

Bin Yang, Junjie Yan+2 more|arXiv (Cornell University)|Apr 28, 2015

Advanced Neural Network Applications参考文献 40被引用数 2

ひとこと要約

本論文は、微調整を伴わずに、事前学習済み畳み込みニューラルネットワーク（CNN）から低レベル特徴をブースティングフォレストモデルに転送するハイブリッド手法である畳み込みチャネル特徴（CCF）を提案する。これにより、人物検出、顔検出、エッジ検出、オブジェクト候補生成において、最新の性能を達成しつつ、計算コストとストレージコストを削減できる。

ABSTRACT

Deep learning methods are powerful tools but often suffer from expensive computation and limited flexibility. An alternative is to combine light-weight models with deep representations. As successful cases exist in several visual problems, a unified framework is absent. In this paper, we revisit two widely used approaches in computer vision, namely filtered channel features and Convolutional Neural Networks (CNN), and absorb merits from both by proposing an integrated method called Convolutional Channel Features (CCF). CCF transfers low-level features from pre-trained CNN models to feed the boosting forest model. With the combination of CNN features and boosting forest, CCF benefits from the richer capacity in feature representation compared with channel features, as well as lower cost in computation and storage compared with end-to-end CNN methods. We show that CCF serves as a good way of tailoring pre-trained CNN models to diverse tasks without fine-tuning the whole network to each task by achieving state-of-the-art performances in pedestrian detection, face detection, edge detection and object proposal generation.

研究の動機と目的

• 多様なビジョンタスクにおけるエンドツーエンドディープラーニングモデルの高い計算コストと柔軟性の不足を解決すること。
• 軽量なチャネル特徴と強力なディープ表現の間のギャップを埋め、両者の長所を統合すること。
• タスク固有の微調整なしに、事前学習済みCNNを複数のタスクに適応できる統一されたフレームワークを開発すること。
• 計算コストとストレージのオーバーヘッドを最小限に抑えつつ、多様なコンピュータビジョンタスクで最先端の性能を達成すること。

提案手法

• CCFは、階層的表現能力を活かして、事前学習済みCNNから低レベル特徴を抽出する。
• これらの特徴はブースティングフォレストモデルに転送され、タスク固有の意思決定境界を効率的に学習する。
• CNNを固定し、上位のブースティングフォレストのみを訓練することで、エンドツーエンド学習を回避する。
• CCFはチャネル単位のフィルタリングを用いて、初期のCNN層から判別性の高い特徴を抽出し、空間的および意味的情報を保持する。
• モジュール式に設計されており、同じ事前学習済みCNNを複数のタスクで再利用可能である。
• 特徴転送を最適化することで、高い判別力維持と計算負荷の低減を両立する。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みCNN特徴と軽量アンサンブル分類器を統合したハイブリッドモデルが、多様なビジョンタスクで最先端の性能を達成できるか？
• RQ2 CCFは、CNNのフル微調整と比較して、精度、推論コスト、ストレージ要件の面でどのように異なるか？
• RQ3 事前学習済みCNN特徴を再訓練なしに、複数のタスクに効果的に再利用できる範囲はどの程度か？
• RQ4 CNN表現とブースティングフォレストの統合は、従来のチャネル特徴や単独のCNNを上回る性能を発揮するか？

主な発見

• CCFは、人物検出、顔検出、エッジ検出、オブジェクト候補生成において、最先端の性能を達成した。
• エンドツーエンドCNN学習と比較して、計算コストとストレージコストを顕著に削減した。
• ネットワークの微調整を伴わず、事前学習済みCNNからの豊富な低レベル特徴を活用することで、高い精度を維持した。
• 最小限の再トレーニングで、事前学習モデルを多様なタスクに効果的に適応可能にした。
• ブースティングフォレスト部は、転送されたCNN特徴からタスク固有のパターンを効果的に学習し、一般化性能を向上させた。