[논문 리뷰] Fire SSD: Wide Fire Modules based Single Shot Detector on Edge Device

Hengfui Liau, Yamini Nimmagadda외 1명|arXiv (Cornell University)|2018. 06. 14.

Advanced Neural Network Applications참고 문헌 26인용 수 5

한 줄 요약

Fire SSD는 엣지 디바이스를 위한 최적화된 경량 실시간 객체 검출 모델로, SqueezeNet에 넓은 파이어 모듈(WFM)과 동적 잔차 mbox 검출을 조합하여 정확도를 향상시키면서도 속도를 유지한다. Pascal VOC 2007에서 70.5 mAP을 기록했으며, CPU 기준 31.7 FPS, GPU 기준 39.8 FPS의 성능을 내며 28MB의 모델 크기를 유지한다. 이는 SSD+MobileNet 및 SSD+SqueezeNet보다 정확도-속도 트레이드오���에서 뛰어난 성능을 보인다.

ABSTRACT

With the emergence of edge computing, there is an increasing need for running convolutional neural network based object detection on small form factor edge computing devices with limited compute and thermal budget for applications such as video surveillance. To address this problem, efficient object detection frameworks such as YOLO and SSD were proposed. However, SSD based object detection that uses VGG16 as backend network is insufficient to achieve real time speed on edge devices. To further improve the detection speed, the backend network is replaced by more efficient networks such as SqueezeNet and MobileNet. Although the speed is greatly improved, it comes with a price of lower accuracy. In this paper, we propose an efficient SSD named Fire SSD. Fire SSD achieves 70.7mAP on Pascal VOC 2007 test set. Fire SSD achieves the speed of 30.6FPS on low power mainstream CPU and is about 6 times faster than SSD300 and has about 4 times smaller model size. Fire SSD also achieves 22.2FPS on integrated GPU.

연구 동기 및 목표

• 제한된 컴퓨팅 및 메모리 자원을 가진 저전력 엣지 디바이스에 정확하고 실시간 객체 검출을 구현하는 데 도전하는 것.
• 용량이 감소함에 따라 정확도 저하가 발생하는 경향이 있는 SqueezeNet 기반 SSD의 정확도를 향상시키는 것.
• 실제 엣지 배포에 적합한 실시간 추론 속도(≥30 FPS)를 CPU 및 통합 GPU에서 유지하는 것.
• 네트워크를 통한 효율적 배포를 가능하게 하기 위해 모델 크기를 줄이는 것.
• 속도, 정확도, 모델 크기를 균형 있게 조절하여 CPU 전용 엣지 디바이스에 실용적인 솔루션을 제공하는 것.

제안 방법

• 표준 파이어 모듈을 그룹 컨볼루션으로 대체하는 넓은 파이어 모듈(WFM)을 도입하여 기능 표현을 향상시키면서도 계산량을 줄이는 것.
• 다양한 해상도의 특징 맵 간에 동적 잔차 연결을 적용하여 기울기 흐름과 깊은 특징의 의미론적 풍부함을 향상시키는 것.
• 각 특징 맵의 컨볼루션 층 수를 해상도에 따라 동적으로 조절하는 동적 잔차 mbox 검출 레이어를 설계하여 소형 객체 검출 성능을 향상시키는 것.
• 작은 그룹 수(예: 4~8)를 사용한 그룹 컨볼루션을 적용하여 정확도를 유지하면서도 FLOPs를 줄이는 것.
• 하드웨어 특화 최적화(예: 레이어 융합 및 FP16 추론)를 활용하기 위해 모델을 Intel Caffe 및 OpenVINO™에 구현하는 것.
• OpenVINO™의 자동 모델 최적화기능을 활용하여 CPU, GPU, VPU에서 추론 속도를 향상시키는 것.

실험 결과

연구 질문

• RQ1 수정된 SqueezeNet 기반 SSD가 CPU에서 실시간 속도를 유지하면서도 기준 SSD보다 높은 정확도를 달성할 수 있는가?
• RQ2 파이어 모듈에 그룹 컨볼루션과 잔차 연결을 통합할 경우 검출 정확도와 추론 속도에 어떤 영향을 미치는가?
• RQ3 소형 객체 검출 및 모델 효율성의 맥락에서 1×1 그룹 컨볼루션의 최적 그룹 수는 얼마인가?
• RQ4 30MB 미만의 경량 SSD 모델이 CPU 전용 엣지 디바이스에서 실시간으로 작동하면서도 Pascal VOC 2007에서 70 mAP 이상의 성능을 달성할 수 있는가?
• RQ5 동적 잔차 mbox 검출 레이어는 표준 SSD 헤드 레이어에 비해 소규모 객체에 대한 성능을 어떻게 향상시키는가?

주요 결과

• Fire SSD는 Pascal VOC 2007 테스트 세트에서 70.5 mAP의 성능을 기록했으며, SSD+MobileNet보다 2.5 mAP, SSD+SqueezeNet보다 6.2 mAP 높은 정확도를 확보했다.
• OpenVINO™를 사용해 주류 저전력 CPU에서 31.7 FPS로 실행되어 실시간 요구 조건을 충족시켰다.
• FP16 정밀도로 통합 GPU에서 39.8 FPS를 기록하여 이질적 플랫폼에서의 높은 효율성을 입증했다.
• 모델 크기는 오직 28MB로, 엣지 배포에서 네트워크 배포에 매우 적합하다.
• 시험된 SSD 변종들 중에서 유일하게 CPU 전용 시스템에서 실시간으로 작동하면서도 70 mAP를 초과하는 모델이었다.
• 동적 잔차 mbox 레이어는 고해상도 특징 맵에서 더 깊은 특징 추출을 가능하게 하여 소형 객체 검출 성능을 크게 향상시켰다.