[論文レビュー] PVANet: Lightweight Deep Neural Networks for Real-time Object Detection

Sang‐Hoon Hong, Byungseok Roh+3 more|arXiv (Cornell University)|Nov 23, 2016

Advanced Neural Network Applications参考文献 13被引用数 81

ひとこと要約

PVANet は、修正された C.ReLU、Inception モジュール、バッチ正規化、残差接続を活用することで、計算コストを ResNet-101 よりも 90% 以上削減した、軽量で薄く深い畳み込みニューラルネットワークアーキテクチャを提案している。VOC2007 では 84.9% の mAP、VOC2012 では 84.2% の mAP を達成し、50ms 未満の推論時間で動作する最新の最効率オブジェクト検出器である。

ABSTRACT

In object detection, reducing computational cost is as important as improving accuracy for most practical usages. This paper proposes a novel network structure, which is an order of magnitude lighter than other state-of-the-art networks while maintaining the accuracy. Based on the basic principle of more layers with less channels, this new deep neural network minimizes its redundancy by adopting recent innovations including C.ReLU and Inception structure. We also show that this network can be trained efficiently to achieve solid results on well-known object detection benchmarks: 84.9% and 84.2% mAP on VOC2007 and VOC2012 while the required compute is less than 10% of the recent ResNet-101.

研究の動機と目的

• リアルタイムアプリケーション向けに、検出精度を損なわずに計算コストを著しく削減する深層ニューラルネットワークの設計。
• 現代の CNN におけるアーキテクチャの冗長性を解明し、効率的な設計原理によってこれを排除すること。
• 最小限の FLOPs で最先端の検出性能を達成し、リソース制限のあるデバイスへのデプロイを可能にすること。
• 最適化されたコンponents を備えた薄く深いネットワークが、重いモデルを上回る速度と精度を達成できることを示すこと。

提案手法

• モデルの冗長性を低減するため、『層を増やし、チャネル数を減らす』という原則を採用。
• 初期層での特徴表現を向上させるために、チャネルごとに別々のバイアスを持つ修正された C.ReLU を導入。
• パラメータの増加を抑えるために、大きなカーネルの代わりに 3x3 畳み込みを用いた Inception モジュールを採用し、マルチスケールの受容野を維持。
• 深層ネットワークの訓練を安定化させるために、バッチ正規化とプレアクティベーション付き残差接続を適用。
• 損失の変化が止まったことを検出することで、動的学習率スケジューリングポリシーを実装し、収束性と精度を向上。
• 検出のロバスト性を向上させるために、マルチスケール特徴の連結とバウンディングボックス投票を採用。

実験結果

リサーチクエスチョン

• RQ1 検出精度を損なわずに、深層ニューラルネットワークを著しく軽量化できるか？
• RQ2 修正された C.ReLU や Inception モジュールといったアーキテクチャ的革新は、冗長性と計算コストの削減にどの程度効果的か？
• RQ3 バッチ正規化と残差接続で訓練された薄く深いネットワークは、リアルタイムの推論速度で高い精度を達成できるか？
• RQ4 ResNet-101 や VGG-16 といった重いモデルと比較して、PVANet の精度と推論効率はどの程度か？
• RQ5 モデル圧縮技術をさらに適用することで、顕著な精度損失なしに推論速度をさらに向上できるか？

主な発見

• PVANet は VOC2007 で 84.9% の mAP、VOC2012 で 84.2% の mAP を達成し、ResNet-101 を用いた Faster R-CNN よりも 0.4% mAP が高い性能を示した。
• 推論時間が 50ms 未満（200 件の提案に対して 46.1ms）で動作し、80% mAP を超えるネットワークの中で最も高速である。
• バウンディングボックス投票を適用した PVANet+ は、VOC2007 で 84.9%、VOC2012 で 84.2% の mAP を達成し、低遅延を維持したまま性能を向上させた。
• 切り捨て特異値分解（truncated SVD）によるモデル圧縮により、推論速度は 31.3 FPS（31.9ms）に向上し、VOC2007 での精度低下はわずか 0.5% にとどまった。
• PVANet+ の理論的計算コストは 27.8 GMAC であり、ResNet-101 を用いた Faster R-CNN（206.4 GMAC）の 10% 未満にまで削減された。
• PASCAL VOC2012 ランキングでは、PVANet は 80% mAP を超え、推論時間が 50ms 以内の唯一のネットワークであり、総合 4 位にランクインした。