[論文レビュー] Improving Object Detection from Scratch via Gated Feature Reuse

Zhiqiang Shen, Humphrey Shi+8 more|arXiv (Cornell University)|Dec 4, 2017

Advanced Neural Network Applications参考文献 35被引用数 16

ひとこと要約

本稿では、SSD や DSOD などの1段階型オブジェクト検出器向けに、事前学習モデルを用いずに訓練を開始できる、パラメータ効率的で即時適用可能なモジュール「ゲート付き特徴再利用（GFR）」を提案する。GFR は、オブジェクトサイズに応じてスケール間の監視を適応的に再キャリブレーションする Squeeze-and-Excitation ベースのゲートを用い、特徴ピラミッドを通じて高レベルの意味的特徴と低レベルの空間的特徴を統合することで、検出精度を向上させ、パラメータ数を削減し、収束を加速する。PASCAL VOC および COCO で、より少ないパラメータ数とより速い訓練速度で最先端の性能を達成している。

ABSTRACT

In this paper, we present a simple and parameter-efficient drop-in module for one-stage object detectors like SSD when learning from scratch (i.e., without pre-trained models). We call our module GFR (Gated Feature Reuse), which exhibits two main advantages. First, we introduce a novel gate-controlled prediction strategy enabled by Squeeze-and-Excitation to adaptively enhance or attenuate supervision at different scales based on the input object size. As a result, our model is more effective in detecting diverse sizes of objects. Second, we propose a feature-pyramids structure to squeeze rich spatial and semantic features into a single prediction layer, which strengthens feature representation and reduces the number of parameters to learn. We apply the proposed structure on DSOD and SSD detection frameworks, and evaluate the performance on PASCAL VOC 2007, 2012 and COCO datasets. With fewer model parameters, GFR-DSOD outperforms the baseline DSOD by 1.4%, 1.1%, 1.7% and 0.6%, respectively. GFR-SSD also outperforms the original SSD and SSD with dense prediction by 3.6% and 2.8% on VOC 2007 dataset. Code is available at: https://github.com/szq0214/GFR-DSOD .

研究の動機と目的

• 事前学習済み ImageNet モデルを用いずに、1段階型オブジェクト検出器を訓練から始めることを改善すること。
• マルチスケール特徴ピラミッドにおける固定的で非適応的な監視の制限を解決すること。
• スケール間で空間的特徴と意味的特徴を統合することで、特徴表現を向上させること。
• モデルのパラメータ数を削減し、訓練収束を加速させること。
• さまざまなバックボーンネットワークと互換性があるプラグアンドプレイモジュールを開発すること。

提案手法

• 入力オブジェクトサイズに応じて、特徴ピラミッドの異なるレベルでの監視強度を動的に調整する Squeeze-and-Excitation (SE) ブロックを適用する Gated Feature Reuse (GFR) モジュールを導入する。
• 高レベルの意味的特徴と低レベルの空間的特徴を1つの予測層に連結することで、特徴表現を向上させる特徴ピラミッド構造を設計する。
• 異なるスケールでの特徴活性化を適応的に強化または抑制する学習可能なゲートメカニズムを用い、小規模または大規模なオブジェクトに適した特徴を優先する。
• GFR モジュールを SSD および DSOD フレームワークに適用し、従来の検出ヘッドの代わりに GFR を用いた新しいヘッドに置き換える。
• 勾配伝搬と特徴再利用を改善するため、低レベルから高レベルの層へのスキップ接続を含む、簡素で軽量なアーキテクチャを採用する。
• 事前学習なしで標準的な最適化手法を用いてエンドツーエンドでモデルを訓練し、収束を高速化し、パラメータ数を削減する。

実験結果

リサーチクエスチョン

• RQ1 パラメータ効率的でエンドツーエンドで訓練可能なオブジェクト検出器は、ImageNet の事前学習なしで、最先端の性能を達成できるか？
• RQ2 特徴ピラミッドをどのようにオブジェクトサイズに適応させれば、マルチスケール検出を改善できるか？
• RQ3 低レベルの空間的特徴と高レベルの意味的特徴の統合は、1段階型検出器の検出精度をどの程度向上させられるか？
• RQ4 GFR のようなシンプルでモジュラーなモジュールは、複雑な事前学習済みモデルに比べ、訓練から始めることでの精度と効率性において優れるか？
• RQ5 GFR は、ベースライン検出器と比較して、収束速度とモデルサイズにどのような影響を与えるか？

主な発見

• GFR-DSOD は、PASCAL VOC 2007、2012、2012 Comp3、COCO データセットで、それぞれベースライン DSOD より 1.4%、1.1%、1.7%、0.6% の高い性能を示し、パラメータ数も少ない。
• GFR-SSD は VOC 2007 で 79.2% の mAP を達成し、元の SSD や密集予測を用いた SSD よりもそれぞれ 3.6%、2.8% 高い。
• GFR-DSOD は、ベースライン DSOD より 38% 速く収束し、100k ステップで最適な精度に達するのに対し、62k ステップで到達する。
• 25.4M パラメータで GFR-DSOD は VOC 2007 で 75.8% の mAP を達成し、ベースラインより 6.2% の向上を示し、訓練から始めても強力な性能を発揮する。
• COCO では、GFR-DSOD は 21.2M パラメータで 30.0% の mAP を達成し、ベースライン DSOD (29.4%) を上回り、FPN と同等の性能を 1/6 のパラメータ数で達成する。
• GFR-DSOD は 300×300 入力で単一の Titan X GPU 上で 17.5 fps の推論速度を示し、SSD321 (11.2 fps) や DSSD321 (9.5 fps) を上回る。