[논문 리뷰] Wide-Residual-Inception Networks for Real-time Object Detection

Youngwan Lee, Byeonghak Yim외 5명|arXiv (Cornell University)|2017. 02. 04.

Advanced Neural Network Applications참고 문헌 1인용 수 7

한 줄 요약

이 논문은 실시간 객체 검출을 가능하게 하는 얕고 넓은 아키텍처인 워드리지드-인셉션(WR-Inception) 네트워크를 제안한다. 이는 잔차 연결과 다중 수용장치 필드 인셉션 유닛을 조합하여, CIFAR-10/100에서 최고 성능을 기록하고, KITTI에서 mAP와 mAR 면에서 ResNet-101을 초월하지만, 임베디드 보드에서 16 FPS로 3.85배 빠르게 작동하며 메모리 사용량은 8.3배 적다.

ABSTRACT

Since convolutional neural network(CNN)models emerged,several tasks in computer vision have actively deployed CNN models for feature extraction. However,the conventional CNN models have a high computational cost and require high memory capacity, which is impractical and unaffordable for commercial applications such as real-time on-road object detection on embedded boards or mobile platforms. To tackle this limitation of CNN models, this paper proposes a wide-residual-inception (WR-Inception) network, which constructs the architecture based on a residual inception unit that captures objects of various sizes on the same feature map, as well as shallower and wider layers, compared to state-of-the-art networks like ResNet. To verify the proposed networks, this paper conducted two experiments; one is a classification task on CIFAR-10/100 and the other is an on-road object detection task using a Single-Shot Multi-box Detector(SSD) on the KITTI dataset.

연구 동기 및 목표

• 자율주행차와 같은 실시간 임베디드 시스템에서 깊은 CNN의 높은 계산 및 메모리 비용을 해결하기 위해.
• 자원 제약이 있는 플랫폼에서 실시간 객체 검출을 위한 경량이면서도 정확한 특징 추출기 개발을 위해.
• 깊은 잔차 네트워크에 비해 소형 객체 성능을 향상시키고 추론 시간을 단축시키기 위해.
• 실제 임베디드 환경에서 ResNet-101과 같은 깊은 네트워크의 실용적인 대안으로 WR-Inception 네트워크를 검증하기 위해.

제안 방법

• 다양한 커널 크기의 병렬 컨볼루션 경로와 스킵 연결을 조합하여 다중 스케일 특징을 캡처하는 잔차-인셉션 유닛을 제안한다.
• FLOPs와 메모리 사용량을 줄이기 위해 더 적은 층 수이지만 더 넓은 필터를 갖춘 얕고 넓은 네트워크 아키텍처(WR-Inception)를 설계한다.
• 더 깊어지더라도 계산 효율성이 높은 네트워크에서 기울기 소실 문제를 완화하고 학습을 안정화시키기 위해 잔차 연결을 활용한다.
• 학습 안정성과 수렴 속도를 향상시키기 위해 배치 정규화와 ReLU 활성화 함수를 사용한다.
• KITTI 데이터셋에서 객체 검출을 위해 WR-Inception을 단일 스샷 다중 박스 검출기(SSD)의 특징 추출기로 훈련시킨다.
• 분류 작업에 대해 CIFAR-10/100, 객체 검출 작업에 대해 KITTI에서 성능을 평가하며, 추론 속도, 메모리 사용량, 정확도를 비교한다.

실험 결과

연구 질문

• RQ1 얕고 넓은 CNN 아키텍처가 이미지 분류 및 객체 검출 작업에서 ResNet-101과 같은 깊은 잔차 네트워크와 비슷하거나 더 높은 정확도를 달성할 수 있는가?
• RQ2 제안된 잔차-인셉션 유닛이 다중 스케일 특징을 효과적으로 캡처하고 소형 객체 검출 성능을 향상시키는가?
• RQ3 WR-Inception 네트워크가 NVIDIA Jetson TX1과 같은 임베디드 플랫폼에서 실시간 추론(≥15 FPS)을 달성할 수 있는가? 동시에 높은 정확도를 유지하는가?
• RQ4 KITTI 데이터셋에서 WR-Inception 네트워크가 모델 크기, 추론 속도, mAP/mAR 면에서 ResNet-101에 비해 어떻게 비교되는가?
• RQ5 WR-Inception 네트워크가 검출 성능을 손상시키지 않으면서 계산 비용과 메모리 사용량을 얼마나 줄이는가?

주요 결과

• WR-Inception는 CIFAR-10에서 테스트 오차 4.82%, CIFAR-100에서 23.12%를 기록하여 164층의 프리-ResNet을 능가한다.
• KITTI 데이터셋에서 WR-Inception 기반 SSD는 mAP 61.18%, mAR 73.51%를 달성하여 ResNet-101 기반 SSD보다 mAP 4.19%p, mAR 5.08%p 높다.
• WR-Inception 기반 SSD는 NVIDIA Jetson TX1에서 16 FPS로 작동하여 ResNet-101 기반 SSD보다 3.85배 빠르다.
• WR-Inception 모델은 ResNet-101 대비 메모리 사용량이 오직 8.3배 적어, 임베디드 및 모바일 플랫폼에 매우 적합하다.
• WR-Inception-l2 버전은 KITTI에서 mAP 63.03%, mAR 75.14%를 기록하여 확장성과 강건성을 입증한다.
• 네트워크 성능은 잔차-인셉션 유닛이 다양한 수용장치를 효율적으로 캡처할 수 있어 소형 및 중형 객체 검출 성능을 향상시킨다는 데 기인한다.