[論文レビュー] Fire SSD: Wide Fire Modules based Single Shot Detector on Edge Device

Hengfui Liau, Yamini Nimmagadda+1 more|arXiv (Cornell University)|Jun 14, 2018

Advanced Neural Network Applications参考文献 26被引用数 5

ひとこと要約

Fire SSD は、エッジデバイス向けに最適化された軽量でリアルタイムなオブジェクト検出モデルであり、SqueezeNet とワイドファイアモジュール（WFM）を組み合わせ、動的リーマンス mbox 検出を採用することで、速度を維持したまま精度を向上させた。Pascal VOC 2007 で 70.5 mAP を達成し、CPU で 31.7 FPS、GPU で 39.8 FPS を記録、モデルサイズは 28MB であり、SSD+MobileNet や SSD+SqueezeNet よりも精度と速度のトレードオフにおいて優れている。

ABSTRACT

With the emergence of edge computing, there is an increasing need for running convolutional neural network based object detection on small form factor edge computing devices with limited compute and thermal budget for applications such as video surveillance. To address this problem, efficient object detection frameworks such as YOLO and SSD were proposed. However, SSD based object detection that uses VGG16 as backend network is insufficient to achieve real time speed on edge devices. To further improve the detection speed, the backend network is replaced by more efficient networks such as SqueezeNet and MobileNet. Although the speed is greatly improved, it comes with a price of lower accuracy. In this paper, we propose an efficient SSD named Fire SSD. Fire SSD achieves 70.7mAP on Pascal VOC 2007 test set. Fire SSD achieves the speed of 30.6FPS on low power mainstream CPU and is about 6 times faster than SSD300 and has about 4 times smaller model size. Fire SSD also achieves 22.2FPS on integrated GPU.

研究の動機と目的

• 限られた計算能力とメモリを備えた低消費電力エッジデバイスに、正確でリアルタイムなオブジェクト検出を導入する課題に対処する。
• 容量が小さいため精度が低下しやすい SqueezeNet をベースとする SSD の精度を向上させる。
• 実用的なエッジデプロイメントを実現するため、CPU および統合 GPU で 30 FPS 以上のリアルタイム推論速度を維持する。
• ネットワーク経由での効率的な配布を可能にするために、モデルサイズを削減する。
• 速度、精度、モデルサイズのバランスを取ることで、CPU 僅どのエッジデバイスに対しても実用的なソリューションを構築する。

提案手法

• 標準的なファイアモジュールに代わり、グループ畳み込みを用いたワイドファイアモジュール（WFM）を導入し、計算量を削減しながら特徴表現を強化する。
• 異なるスケールの特徴マップ間で動的リーマンス接続を適用することで、勾配の流れを改善し、より意味的な豊かさを持つ深層特徴を得る。
• 解像度に応じて各特徴マップごとの畳み込み層の数を動的に調整する動的リーマンス mbox 検出レイヤーを設計し、小サイズオブジェクト検出を向上させる。
• 小規模なグループ数（例：4〜8）を用いたグループ畳み込みを採用することで、FLOPs を削減しながらも精度を維持する。
• ハードウェア固有の最適化（例：レイヤーフュージョンや FP16 推論）を活用するため、Intel Caffe および OpenVINO™ でモデルを実装する。
• OpenVINO™ の自動モデル最適化機能を活用して、CPU、GPU、VPU における推論速度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 改良型 SqueezeNet をベースとする SSD は、CPU でリアルタイム速度を維持しながら、ベースライン SSD よりも高い精度を達成できるか？
• RQ2 ファイアモジュールにグループ畳み込みとリーマンス接続を組み込むことで、検出精度と推論速度にどのような影響を与えるか？
• RQ3 小サイズオブジェクト検出とモデル効率の文脈において、1×1 グループ畳み込みの最適なグループ数は何か？
• RQ4 30MB 未満のモデルサイズで、CPU 僅どのエッジデバイスでリアルタイムに動作する軽量 SSD モデルが、Pascal VOC 2007 で 70 mAP を超えることができるか？
• RQ5 動的リーマンス mbox 検出レイヤーは、標準的な SSD ヘッドレイヤーと比較して、小スケールオブジェクトの性能にどのように寄与するか？

主な発見

• Fire SSD は Pascal VOC 2007 のテストセットで 70.5 mAP を達成し、SSD+MobileNet よりも 2.5 mAP、SSD+SqueezeNet よりも 6.2 mAP の高い精度を記録した。
• OpenVINO™ を使用した主流の低消費電力 CPU で 31.7 FPS で動作し、リアルタイム要件を満たしている。
• 統合 GPU で FP16 精度を使用した場合、39.8 FPS を達成し、異種プラットフォームにおける高い効率性を示した。
• モデルサイズはわずか 28MB であり、エッジデプロイメントにおけるネットワーク配布に非常に適している。
• テストされた SSD 互換モデルの中で、Fire SSD のみが CPU 僅どのシステムでリアルタイムに動作しながら 70 mAP を超えた。
• 動的リーマンス mbox レイヤーは、高解像度の特徴マップでより深い特徴抽出を可能にすることで、小サイズオブジェクト検出の性能を顕著に向上させた。