[论文解读] Real-time convolutional networks for sonar image classification in low-power embedded systems.

Matías Valdenegro-Toro|arXiv (Cornell University)|Jan 1, 2017

Underwater Acoustics Research被引用 3

一句话总结

本文提出了一种轻量级、实时的卷积神经网络，用于在低功耗嵌入式系统上进行声纳图像分类，通过在基于Fire的模块和自定义的Tiny模块中采用激进的最大池化策略，减少参数量并提升推理速度。该方法在Raspberry Pi 2上对96×96声纳图像实现98.8–99.7%的准确率，仅需41–61毫秒，相比基线模型提速19.7–28.6倍。

ABSTRACT

Deep Neural Networks have impressive classification performance, but this comes at the expense of significant computational resources at inference time. Autonomous Underwater Vehicles use low-power embedded systems for sonar image perception, and cannot execute large neural networks in real-time. We propose the use of max-pooling aggressively, and we demonstrate it with a Fire-based module and a new Tiny module that includes max-pooling in each module. By stacking them we build networks that achieve the same accuracy as bigger ones, while reducing the number of parameters and considerably increasing computational performance. Our networks can classify a 96x96 sonar image with 98.8 - 99.7 accuracy on only 41 to 61 milliseconds on a Raspberry Pi 2, which corresponds to speedups of 28.6 - 19.7.

研究动机与目标

• 解决在自主水下航行器中使用的低功耗嵌入式系统上部署高精度深度神经网络的挑战。
• 克服大模型在实时声纳图像感知任务中的计算瓶颈。
• 在不牺牲声纳图像分类准确率的前提下，减少模型参数量和推理延迟。
• 实现在资源受限平台（如Raspberry Pi 2）上的高效、实时推理。

提出的方法

• 设计一种基于Fire的模块，采用激进的最大池化以早期减少空间维度，同时保持计算效率。
• 提出一种新型的Tiny模块，将最大池化嵌入每个模块内部，以进一步压缩网络并加速推理。
• 堆叠Tiny模块，构建深度、轻量级网络，专为低功耗推理优化。
• 在96×96声纳图像上进行网络的训练与评估，以在嵌入式硬件上实现准确率与速度的平衡。
• 结合深度可分离卷积与最大池化，以最小化FLOPs和参数量。
• 针对ARM架构嵌入式系统优化网络架构，重点关注延迟与能效。

实验结果

研究问题

• RQ1 激进的最大池化是否能有效减少模型大小和推理时间，而不会降低声纳图像分类的准确率？
• RQ2 在嵌入式平台上，带有内部最大池化的自定义Tiny模块与标准Fire模块相比，在准确率和速度方面表现如何？
• RQ3 轻量级网络在Raspberry Pi 2等低功耗硬件上，能在多大程度上实现声纳图像分类的实时性能？
• RQ4 在嵌入式系统上进行声纳图像处理时，模型复杂度、参数量与推理延迟之间存在怎样的权衡？

主要发现

• 所提出的带有内部最大池化的Tiny模块在保持高准确率的同时，减少了模型参数量并加速了推理。
• 该网络在Raspberry Pi 2上对96×96声纳图像实现98.8–99.7%的分类准确率，推理时间仅为41–61毫秒。
• 与基线模型相比，该方法实现了19.7×至28.6×的加速，使低功耗硬件上的实时处理成为可能。
• 在每个模块中采用激进的最大池化显著降低了计算负载，同时未损害声纳数据的特征表示。
• Fire模块与Tiny模块的结合，使得在计算资源有限的边缘设备上高效部署深度网络成为可能。
• 最终网络适用于自主水下航行器中的实时运行，其中功耗和延迟是关键约束条件。