[论文解读] EffNet: An Efficient Structure for Convolutional Neural Networks

Ido Freeman, Lutz Roese-Koerner+1 more|arXiv (Cornell University)|Jan 19, 2018

Advanced Neural Network Applications参考文献 21被引用 14

一句话总结

EffNet 提出了一种新颖且高效的卷积块，通过重新思考深度可分离卷积并优化特征流，显著降低了CNN中的计算成本，实现了SOTA精度，且FLOPs大幅减少——尤其在轻量级模型中表现优异，此时MobileNet和ShuffleNet因瓶颈而性能下降。

ABSTRACT

With the ever increasing application of Convolutional Neural Networks to customer products the need emerges for models to efficiently run on embedded, mobile hardware. Slimmer models have therefore become a hot research topic with various approaches which vary from binary networks to revised convolution layers. We offer our contribution to the latter and propose a novel convolution block which significantly reduces the computational burden while surpassing the current state-of-the-art. Our model, dubbed EffNet, is optimised for models which are slim to begin with and is created to tackle issues in existing models such as MobileNet and ShuffleNet.

研究动机与目标

• 解决现有轻量级CNN（如MobileNet和ShuffleNet）在应用于轻薄、低容量模型时效率低下的问题。
• 克服深度可分离卷积中因数据流瓶颈导致的性能下降问题，尤其在窄网络中。
• 设计一种统一且高效的卷积块，在大幅降低计算成本的同时保持高精度。
• 在不依赖剪枝或量化等后处理压缩技术的前提下，优化模型效率。
• 通过最小化FLOPs，使在资源受限硬件上部署更深、更准确的网络成为可能，且不牺牲性能。

提出的方法

• 引入一种新型卷积块，将空间卷积与通道卷积分离开来，类似于深度可分离卷积，但具有更优的数据流设计。
• 在批量归一化后，将标准的ReLU激活替换为Leaky ReLU，以保留更多特征信息并提升性能。
• 在架构中原生集成深度乘数为2，以增强表征能力，同时FLOPs增加不显著。
• 根据输入通道数，通过学习到的扩展率调整首个逐点卷积层的输出通道数，减少瓶颈。
• 采用线性逐点卷积层后接非线性激活，避免冗余计算并改善训练动态。
• 将该块作为标准卷积和深度可分离卷积的即插即用替代品，应用于现有CNN架构中。

实验结果

研究问题

• RQ1 如何在现有方法（如MobileNet和ShuffleNet）因瓶颈而性能受限的轻薄、窄架构中，提升轻量级CNN的效率与精度？
• RQ2 对深度可分离卷积块进行哪些修改，可降低计算成本，同时保持或提升模型精度？
• RQ3 在批量归一化后，用Leaky ReLU替代ReLU或线性激活，对轻量级CNN块性能有何影响？
• RQ4 能否设计一种统一且高效的卷积块，在FLOPs和精度上均优于MobileNet和ShuffleNet，尤其在小模型上？
• RQ5 所提出的块在不增加计算成本的前提下，能在低容量硬件上支持多深或多宽的网络？

主要发现

• 在CIFAR-10上，EffNet以仅4410万FLOPs（0.55×基线）达到83.20%的top-1精度，优于同FLOP水平下的MobileNet v2（79.10%）。
• 在SVHN上，EffNet以22.5亿FLOPs（0.63×基线）达到87.80%精度，超越MobileNet v2（87.16%），且计算量更低。
• 在GTSRB上，EffNet以12.1亿FLOPs（0.51×基线）达到93.74%精度，优于MobileNet v2（92.82%），计算成本更低。
• 改进后的MobileNet变体（mob_imp）在SVHN上达到88.78%精度，但需25.1亿FLOPs（0.70×基线），表明其显著高于EffNet的计算开销，尽管精度更高。
• 使用Leaky ReLU替代ReLU或线性激活可提升性能，实验表明首个逐点卷积层从非线性中获益明显。
• 所提出的块在不同扩展率下均表现稳健，尤其在低FLOP预算下保持一致的性能增益，证明其在移动和嵌入式部署中的适用性。