[论文解读] HENet:A Highly Efficient Convolutional Neural Networks Optimized for Accuracy, Speed and Storage

Qiuyu Zhu, Ruixin Zhang|arXiv (Cornell University)|Mar 7, 2018

Advanced Neural Network Applications参考文献 15被引用 3

一句话总结

HENet 提出了一种高度高效的卷积神经网络架构，通过结合分组卷积与通道混洗，将残差连接和密集连接整合到模块中，并完全消除池化层以保留特征图，从而在准确率、速度和模型大小方面实现优化。实验表明，HENet 在 CIFAR-10/100 和 SVHN 上的效率比 ShuffleNet 提高了超过 100%，同时保持了具有竞争力的准确率。

ABSTRACT

In order to enhance the real-time performance of convolutional neural networks(CNNs), more and more researchers are focusing on improving the efficiency of CNN. Based on the analysis of some CNN architectures, such as ResNet, DenseNet, ShuffleNet and so on, we combined their advantages and proposed a very efficient model called Highly Efficient Networks(HENet). The new architecture uses an unusual way to combine group convolution and channel shuffle which was mentioned in ShuffleNet. Inspired by ResNet and DenseNet, we also proposed a new way to use element-wise addition and concatenation connection with each block. In order to make greater use of feature maps, pooling operations are removed from HENet. The experiments show that our model's efficiency is more than 1 times higher than ShuffleNet on many open source datasets, such as CIFAR-10/100 and SVHN.

研究动机与目标

• 为应对卷积神经网络中对实时推理日益增长的需求，通过提升准确率、速度和模型大小方面的效率来实现优化。
• 通过将 ShuffleNet、ResNet 和 DenseNet 等现有轻量级模型的优势整合到统一架构中，克服其局限性。
• 完全消除池化操作，以保留空间特征信息并提升特征图的利用效率。
• 开发一种在显著降低计算和存储成本的同时仍保持高性能的模型。

提出的方法

• 提出一种新颖的模块设计，将逐元素相加（残差风格）和连接（密集风格）连接方式结合在每个模块内部，以增强特征复用和梯度流动。
• 采用分组卷积结合通道混洗，以减少计算量和参数数量，同时保持通道间的交叉信息。
• 完全移除池化层，以保留空间分辨率，并最大化网络中各层的特征图利用效率。
• 采用受 ResNet 和 DenseNet 启发的混合跳跃连接策略，以在不增加计算开销的前提下提升模型的表征能力。
• 通过分析现有模型的架构，优化网络结构，重点关注效率权衡。
• 设计网络时最大限度减少冗余并提高参数效率，以降低存储需求和推理时间。

实验结果

研究问题

• RQ1 如何有效结合分组卷积与通道混洗，以在不牺牲准确率的前提下提升模型效率？
• RQ2 在轻量级 CNN 中，残差连接与密集连接的整合在多大程度上能增强特征学习能力？
• RQ3 在小规模数据集上，移除池化层对特征表示和整体模型性能有何影响？
• RQ4 统一架构能否在速度、准确率和模型大小方面超越专门设计的轻量级模型（如 ShuffleNet）？
• RQ5 在标准基准测试中，所提出的架构与最先进模型相比，在 FLOPs、参数量和推理速度方面表现如何？

主要发现

• 在 CIFAR-10、CIFAR-100 和 SVHN 数据集上，HENet 的效率比 ShuffleNet 提高了超过 100%，其衡量标准为准确率与 FLOPs 的比值。
• 该模型在 CIFAR-10 和 CIFAR-100 上保持了具有竞争力的 top-1 准确率，尽管模型复杂度降低，但仍优于或匹配当前最先进轻量级模型。
• 移除池化层有助于更好地保留空间特征图，从而提升在小规模图像识别任务中的性能。
• 在模块内部同时集成残差连接与密集连接，可增强特征传播与梯度流动，从而提高训练稳定性和准确率。
• 与基线模型相比，HENet 显著减少了模型大小和 FLOPs，使其更适合在资源受限设备上部署。
• 该架构在多种不同数据集上表现出强大的泛化能力，证实了其鲁棒性与可扩展性。