[论文解读] Fire SSD: Wide Fire Modules based Single Shot Detector on Edge Device

Hengfui Liau, Yamini Nimmagadda+1 more|arXiv (Cornell University)|Jun 14, 2018

Advanced Neural Network Applications参考文献 26被引用 5

一句话总结

Fire SSD 是一种轻量级、实时的物体检测模型，专为边缘设备优化，结合 SqueezeNet 与宽火模块（WFM）及动态残差 mbox 检测机制，在保持速度的同时提升精度。其在 Pascal VOC 2007 上达到 70.5 mAP 的性能，CPU 上实现 31.7 FPS，GPU 上达到 39.8 FPS，模型大小仅 28MB，相较于 SSD+MobileNet 和 SSD+SqueezeNet 在精度-速度权衡上表现更优。

ABSTRACT

With the emergence of edge computing, there is an increasing need for running convolutional neural network based object detection on small form factor edge computing devices with limited compute and thermal budget for applications such as video surveillance. To address this problem, efficient object detection frameworks such as YOLO and SSD were proposed. However, SSD based object detection that uses VGG16 as backend network is insufficient to achieve real time speed on edge devices. To further improve the detection speed, the backend network is replaced by more efficient networks such as SqueezeNet and MobileNet. Although the speed is greatly improved, it comes with a price of lower accuracy. In this paper, we propose an efficient SSD named Fire SSD. Fire SSD achieves 70.7mAP on Pascal VOC 2007 test set. Fire SSD achieves the speed of 30.6FPS on low power mainstream CPU and is about 6 times faster than SSD300 and has about 4 times smaller model size. Fire SSD also achieves 22.2FPS on integrated GPU.

研究动机与目标

• 解决在计算能力和内存受限的低功耗边缘设备上部署高精度、实时物体检测的挑战。
• 提升 SqueezeNet 基础 SSD 的精度，该模型通常因容量降低而出现精度下降问题。
• 在 CPU 和集成 GPU 上保持实时推理速度（≥30 FPS），以支持实际的边缘部署。
• 减小模型大小，以支持在边缘计算场景中通过网络高效分发。
• 在速度、精度和模型大小之间实现平衡，为仅支持 CPU 的边缘设备提供可行解决方案。

提出的方法

• 引入宽火模块（WFM），用分组卷积替代标准火模块，以增强特征表示能力，同时减少计算量。
• 在不同尺度的特征图之间应用动态残差连接，以改善梯度流动并增强深层特征的语义丰富性。
• 设计一种动态残差 mbox 检测层，根据特征图分辨率自适应调整每层的卷积层数量，从而提升小物体检测能力。
• 使用分组卷积并保持较小的分组数量（例如 4–8），在减少 FLOPs 的同时维持精度。
• 在 Intel Caffe 和 OpenVINO™ 中实现模型，以利用硬件特定优化，如层融合和 FP16 推理。
• 使用 OpenVINO™ 的自动模型优化器对网络进行优化，以提升 CPU、GPU 和 VPU 上的推理速度。

实验结果

研究问题

• RQ1 经过修改的基于 SqueezeNet 的 SSD 是否能在保持 CPU 实时速度的前提下，实现比基线 SSD 更高的精度？
• RQ2 在火模块中引入分组卷积与残差连接，对检测精度和推理速度有何影响？
• RQ3 在小物体检测与模型效率的背景下，1×1 分组卷积的最优分组数量是多少？
• RQ4 能否实现一个模型大小小于 30MB 的轻量级 SSD 模型，在仅支持 CPU 的边缘设备上实时运行的同时，在 Pascal VOC 2007 上达到超过 70 mAP 的性能？
• RQ5 与标准 SSD 头层相比，动态残差 mbox 检测层在小尺度物体上的性能提升如何？

主要发现

• Fire SSD 在 Pascal VOC 2007 测试集上达到 70.5 mAP，优于 SSD+MobileNet 的 2.5 mAP 和 SSD+SqueezeNet 的 6.2 mAP。
• 该模型在主流低功耗 CPU 上使用 OpenVINO™ 实现 31.7 FPS，满足实时性要求。
• Fire SSD 在集成 GPU 上以 FP16 精度实现 39.8 FPS，展现出在异构平台上的高效性。
• 模型大小仅为 28MB，使其在边缘部署的网络分发中极具优势。
• 在所测试的 SSD 变体中，Fire SSD 是唯一一个在仅支持 CPU 的系统上实现实时运行且 mAP 超过 70 的模型。
• 动态残差 mbox 层通过在高分辨率特征图上实现更深的特征提取，显著提升了小物体检测性能。