[论文解读] Wide-Residual-Inception Networks for Real-time Object Detection

Youngwan Lee, Byeonghak Yim+5 more|arXiv (Cornell University)|Feb 4, 2017

Advanced Neural Network Applications参考文献 1被引用 7

一句话总结

本文提出了一种宽残差-稠密模块（WR-Inception）网络，这是一种浅层、宽层架构，结合了残差连接与多感受野的稠密模块，以实现实时目标检测。该网络在CIFAR-10/100上实现了最先进精度，且在KITTI数据集上的mAP和mAR指标优于ResNet-101，同时在嵌入式设备上以16 FPS的帧率运行，速度提升3.85倍，内存使用量减少8.3倍。

ABSTRACT

Since convolutional neural network(CNN)models emerged,several tasks in computer vision have actively deployed CNN models for feature extraction. However,the conventional CNN models have a high computational cost and require high memory capacity, which is impractical and unaffordable for commercial applications such as real-time on-road object detection on embedded boards or mobile platforms. To tackle this limitation of CNN models, this paper proposes a wide-residual-inception (WR-Inception) network, which constructs the architecture based on a residual inception unit that captures objects of various sizes on the same feature map, as well as shallower and wider layers, compared to state-of-the-art networks like ResNet. To verify the proposed networks, this paper conducted two experiments; one is a classification task on CIFAR-10/100 and the other is an on-road object detection task using a Single-Shot Multi-box Detector(SSD) on the KITTI dataset.

研究动机与目标

• 解决深度卷积神经网络在自动驾驶等实时嵌入式系统中计算和内存开销过高的问题。
• 为资源受限平台开发一种轻量化但高精度的特征提取器，以实现实时目标检测。
• 相比深度残差网络，提升对小目标的检测性能并减少推理时间。
• 验证WR-Inception网络作为实际嵌入式部署中深度网络（如ResNet-101）的可行替代方案。

提出的方法

• 提出一种残差-稠密模块，结合跳跃连接与不同卷积核大小的并行卷积路径，以捕捉多尺度特征。
• 设计一种浅层且宽层的网络架构（WR-Inception），通过层数更少但滤波器更宽的结构，降低FLOPs和内存占用。
• 采用残差连接以缓解梯度消失问题，并在更深但计算高效的网络中稳定训练过程。
• 使用批量归一化和ReLU激活函数以提升训练稳定性与收敛速度。
• 将WR-Inception作为特征提取器，在单次多框检测器（SSD）中进行训练，用于KITTI数据集上的目标检测。
• 在CIFAR-10/100上评估分类性能，在KITTI上评估目标检测性能，对比推理速度、内存占用和精度。

实验结果

研究问题

• RQ1 浅层且宽层的CNN架构是否能在图像分类和目标检测任务上实现与ResNet-101等深度残差网络相当或更优的精度？
• RQ2 所提出的残差-稠密模块是否能有效捕捉多尺度特征，并提升对小目标的检测性能？
• RQ3 WR-Inception网络是否能在NVIDIA Jetson TX1等嵌入式平台上实现≥15 FPS的实时推理，同时保持高精度？
• RQ4 在KITTI数据集上，WR-Inception网络与ResNet-101相比，在模型大小、推理速度、mAP/mAR指标方面表现如何？
• RQ5 WR-Inception网络在不牺牲检测性能的前提下，能在多大程度上降低计算成本和内存使用？

主要发现

• WR-Inception在CIFAR-10上的测试误差为4.82%，在CIFAR-100上为23.12%，优于164层的Pre-ResNet。
• 在KITTI数据集上，基于WR-Inception的SSD实现61.18%的mAP和73.51%的mAR，较ResNet-101-based SSD分别提升4.19%和5.08%。
• 基于WR-Inception的SSD在NVIDIA Jetson TX1上运行速度达16 FPS，较ResNet-101-based SSD快3.85倍。
• WR-Inception模型的内存使用量仅为ResNet-101的1/8.3，因此在嵌入式和移动平台中极具适用性。
• WR-Inception-l2变体在KITTI上实现63.03%的mAP和75.14%的mAR，展现出良好的可扩展性与鲁棒性。
• 该网络的优异性能归因于残差-稠密模块能够高效捕捉多样化的感受野，从而提升对小目标和中等目标的检测能力。