[论文解读] Channel Pruned YOLOv5-based Deep Learning Approach for Rapid and Accurate Outdoor Obstacles Detection

Zeqian Li, Wang, Yuwei+2 more|arXiv (Cornell University)|Apr 27, 2022

Advanced Neural Network Applications被引用 5

一句话总结

该论文提出了一种通道剪枝的 YOLOv5 模型，用于实时、高精度的室外障碍物检测，在保持高 mAP 的同时，通过结构化剪枝和数据增强，将模型大小减少了 49.7%，推理时间减少了 52.5%。该方法结合了 BN 层上的 L1-范数稀疏训练与优化的数据预处理，实现了在自建无人机采集数据集上多种天气和距离条件下的鲁棒性能。

ABSTRACT

One-stage algorithm have been widely used in target detection systems that need to be trained with massive data. Most of them perform well both in real-time and accuracy. However, due to their convolutional structure, they need more computing power and greater memory consumption. Hence, we applied pruning strategy to target detection networks to reduce the number of parameters and the size of model. To demonstrate the practicality of the pruning method, we select the YOLOv5 model for experiments and provide a data set of outdoor obstacles to show the effect of model. In this specific data set, in the best circumstances, the volume of the network model is reduced by 49.7% compared with the original model, and the reasoning time is reduced by 52.5%. Meanwhile, it also uses data processing methods to compensate for the drop in accuracy caused by pruning.

研究动机与目标

• 开发一种轻量化、实时的物体检测模型，适用于在资源受限平台部署的室外障碍物检测。
• 通过结构化通道剪枝，在不显著损失精度的情况下，减少 YOLOv5 的模型大小和推理时间。
• 构建并利用在不同天气和距离条件下通过无人机采集的多样化真实世界障碍物数据集。
• 评估并优化提升剪枝后检测精度的数据预处理技术。
• 识别剪枝率与数据增强方法的最佳组合，以在速度、模型大小和 mAP 性能之间实现最佳平衡。

提出的方法

• 通过在批量归一化（BN）层中针对缩放参数 ε 进行剪枝，利用 L1-范数正则化识别并移除不重要的通道。
• 采用 L1-正则化损失进行稀疏训练，以促进通道稀疏性，其中 ε 值较小的通道被剪枝。
• 剪枝后对模型进行微调以恢复精度，剪枝率设定为 0.3，以在模型大小与性能之间实现最佳权衡。
• 评估了五种数据预处理方法：随机尺寸训练（320–512）、随机角度翻转（-5° 至 +5°），以及对曝光、色调和饱和度的调整。
• 选择表现最佳的数据增强组合——随机尺寸、随机角度和饱和度变化——以在最大化 mAP 的同时最小化冗余影响。
• 最终模型在包含三种天气状况（晴天、多云、雾天）和多种距离的自建无人机采集数据集上进行训练和测试。

实验结果

研究问题

• RQ1 在室外障碍物检测中，YOLOv5 的最优剪枝率是什么，能够实现模型压缩与检测精度之间的最佳平衡？
• RQ2 不同的数据预处理技术如何影响剪枝后 YOLOv5 模型在障碍物检测中的 mAP 表现？
• RQ3 哪种数据增强方法组合能带来最高的 mAP 提升，且无冗余或收益递减现象？
• RQ4 将剪枝应用于 YOLOv5 的 BN 层时，对推理时间和模型大小有何影响？
• RQ5 剪枝后的 YOLOv5 模型是否能在多样化的现实条件（天气、距离）下保持高精度，且性能退化最小？

主要发现

• 剪枝后的 YOLOv5 模型相比原始模型，模型大小减少了 49.7%，推理时间减少了 52.5%。
• 在剪枝率为 0.3 时，模型在使用传统剪枝方法的情况下仅出现 2.4% 的 mAP 下降，表明其具有很强的鲁棒性。
• 随机尺寸训练带来的 mAP 提升最大（+0.40），其次是曝光、色调和饱和度调整，累计增益最高可达 +0.52。
• 随机尺寸、随机角度和饱和度变化的数据增强组合表现最佳，优于其他组合。
• 所选的三种预处理方法——随机尺寸、随机角度和饱和度变化——在带来显著精度提升的同时冗余极少，因此非常适合部署。
• 在应用优化后的剪枝与数据增强流程后，最终模型在测试集上的 mAP 达到 75.19，证明其在实际应用中具有高度实用性。