[论文解读] ANTNets: Mobile Convolutional Neural Networks for Resource Efficient Image Classification

Yunyang Xiong, Hyunwoo J. Kim+1 more|arXiv (Cornell University)|Apr 7, 2019

Advanced Neural Network Applications参考文献 25被引用 18

一句话总结

ANTNets 提出 ANTBlock，一种新型的移动端友好卷积神经网络模块，通过使用高效的通道注意力机制和分组卷积，在深度可分离卷积与投影层之间建模通道间依赖关系，从而增强表征能力。该方法在移动设备上实现了 SOTA 准确率，且推理速度提升 20%，在 iPhone 5s 上的 ImageNet 推理延迟为 157.7ms，相比 MobileNetV2 准确率提升 0.8%。

ABSTRACT

Deep convolutional neural networks have achieved remarkable success in computer vision. However, deep neural networks require large computing resources to achieve high performance. Although depthwise separable convolution can be an efficient module to approximate a standard convolution, it often leads to reduced representational power of networks. In this paper, under budget constraints such as computational cost (MAdds) and the parameter count, we propose a novel basic architectural block, ANTBlock. It boosts the representational power by modeling, in a high dimensional space, interdependency of channels between a depthwise convolution layer and a projection layer in the ANTBlocks. Our experiments show that ANTNet built by a sequence of ANTBlocks, consistently outperforms state-of-the-art low-cost mobile convolutional neural networks across multiple datasets. On CIFAR100, our model achieves 75.7% top-1 accuracy, which is 1.5% higher than MobileNetV2 with 8.3% fewer parameters and 19.6% less computational cost. On ImageNet, our model achieves 72.8% top-1 accuracy, which is 0.8% improvement, with 157.7ms (20% faster) on iPhone 5s over MobileNetV2.

研究动机与目标

• 设计一种轻量化、资源高效的 CNN 模块，适用于在计算和参数约束严格的移动端部署。
• 在不增加计算成本的前提下，提升深度可分离卷积的表征能力。
• 通过高效的注意力机制，有效建模深度卷积与投影层之间通道的依赖关系。
• 在真实移动端硬件上，实现比 MobileNetV2 和 NASNet-A 等现有轻量级网络更快的推理速度和更高的准确率。
• 提供即插即用、框架兼容的模块，以极低的额外开销提升性能。

提出的方法

• 提出 ANTBlock，一种新型基本网络单元，结合深度可分离卷积、分组逐点卷积以及一种新颖的通道注意力机制。
• 引入一种动态通道重加权机制，通过高维空间建模深度卷积与投影层特征之间的依赖关系。
• 使用分组卷积以减少参数量和计算成本，同时保持表征能力。
• 采用两阶段注意力机制：先进行全局平均池化，再通过全连接层计算通道权重，实现特征的选择性重加权。
• 设计模块以兼容现有深度学习框架，可轻松集成到移动端网络架构中。
• 优化模块配置，以最大化通道感受野并保持完整的通道信息流动。

实验结果

研究问题

• RQ1 通道注意力能否被有效应用于深度可分离卷积中，在不增加计算成本的前提下提升表征能力？
• RQ2 在移动端友好的架构中，如何高效建模深度卷积与逐点卷积特征之间的依赖关系？
• RQ3 能否将分组卷积与注意力机制结合，以减少参数量和 FLOPs，同时保持或提升准确率？
• RQ4 与当前最先进的轻量级模型相比，所提出的 ANTBlock 是否能在真实移动端硬件上实现更快的推理速度和更高的准确率？
• RQ5 ANTBlock 是否可泛化用于在严格限制 MAdds 和参数量的条件下构建高效、高性能的移动端网络？

主要发现

• ANTNet 在 CIFAR-100 上达到 75.7% 的 top-1 准确率，比 MobileNetV2 高 1.5%，参数量减少 8.3%，计算成本降低 19.6%。
• 在 ImageNet 上，ANTNet 达到 72.8% 的 top-1 准确率，比 MobileNetV2 提高 0.8%，在 iPhone 5s 上的推理延迟为 157.7ms，比 MobileNetV2 快 20%。
• 当深度乘数 α=1.4 时，ANTNet 达到 75.0% 的 top-1 准确率，比 MobileNetV2 高 0.3%，比 NASNet-A 高 1%，比 DARTS 高 2%。
• 使用 g=2 组时，模型的 MAdds 为 267M，CoreML 模型大小为 13.4MB，相比 MobileNetV2 显著降低了 FLOPs 和模型大小。
• 在 iPhone 5s 上，推理速度比 MobileNetV2 快 20%，在桌面 CPU 上也持续实现 8%-10% 的速度提升。
• ANTBlock 的设计简单易实现，与主流深度学习框架兼容，可轻松部署于移动端设备。