[论文解读] MoBiNet: A Mobile Binary Network for Image Classification

Hai Thanh Phan, Dang Huynh+3 more|arXiv (Cornell University)|Jul 29, 2019

Advanced Neural Network Applications参考文献 60被引用 15

一句话总结

MoBiNet 提出了一种新颖的移动二值化神经网络，对 MobileNet 的深度可分离卷积和逐点卷积进行二值化，以实现在移动设备上的高效推理。通过引入 Pre-block、Mid-block 和 Post-block 设计的跳跃连接，并利用 K-依赖性增强特征相关性，MoBiNet 在 ImageNet 上实现了 54.40% 的 top-1 准确率，推理速度提升 3.13 倍，模型压缩 1.34 倍，且无需预训练权重，从随机初始化端到端训练。

ABSTRACT

MobileNet and Binary Neural Networks are two among the most widely used techniques to construct deep learning models for performing a variety of tasks on mobile and embedded platforms.In this paper, we present a simple yet efficient scheme to exploit MobileNet binarization at activation function and model weights. However, training a binary network from scratch with separable depth-wise and point-wise convolutions in case of MobileNet is not trivial and prone to divergence. To tackle this training issue, we propose a novel neural network architecture, namely MoBiNet - Mobile Binary Network in which skip connections are manipulated to prevent information loss and vanishing gradient, thus facilitate the training process. More importantly, while existing binary neural networks often make use of cumbersome backbones such as Alex-Net, ResNet, VGG-16 with float-type pre-trained weights initialization, our MoBiNet focuses on binarizing the already-compressed neural networks like MobileNet without the need of a pre-trained model to start with. Therefore, our proposal results in an effectively small model while keeping the accuracy comparable to existing ones. Experiments on ImageNet dataset show the potential of the MoBiNet as it achieves 54.40% top-1 accuracy and dramatically reduces the computational cost with binary operators.

研究动机与目标

• 开发一种轻量化、二值化的神经网络，专为移动和嵌入式推理设计，计算成本极低。
• 解决在深度可分离卷积架构中训练二值网络的挑战，此类网络易受梯度消失和信息丢失的影响。
• 通过在二值化 MobileNet 架构上实现端到端从随机初始化训练，消除对预训练浮点权重的依赖。
• 通过在可分离卷积层之间引入 K-依赖性，提升二值网络中的特征表示能力。
• 在保持极小模型尺寸的同时，实现与最先进二值化网络相当的高准确率和高效率。

提出的方法

• 提出 MoBiNet，一种二值化神经网络，对 MobileNet 中深度可分离卷积和逐点卷积的权重和激活值均进行二值化。
• 引入三种模块设计——Pre-block、Mid-block 和 Post-block，通过跳跃连接稳定训练，缓解梯度消失问题。
• 采用 K-依赖性增强可分离卷积中的跨通道相关性，提升特征表示能力，且显著增加 FLOPs。
• 采用一种新颖的训练方案，避免使用预训练模型，实现从随机初始化的完整训练。
• 利用二值运算符（XNOR 和 popcount）加速推理并减少内存占用。
• 应用通道级缩放和残差连接，以在各层中同时保留原始特征和变换后的特征。

实验结果

研究问题

• RQ1 能否在无需预训练权重的情况下，有效从随机初始化训练一个二值化神经网络，且其架构基于像 MobileNet 这类深度可分离卷积网络？
• RQ2 不同配置的跳跃连接（Pre-、Mid-、Post-block）如何影响二值化 MobileNet 的训练稳定性和模型准确率？
• RQ3 K-依赖性对二值化可分离卷积中特征表示和准确率的影响如何？
• RQ4 与现有最先进二值化网络（如 Bi-RealNet 和 XNOR-Net）相比，MoBiNet 在准确率和效率方面表现如何？
• RQ5 完全二值化的 MobileNet 是否能在极低计算成本和极小模型尺寸下实现具有竞争力的性能？

主要发现

• MoBiNet 在 ImageNet 上实现 54.40% 的 top-1 准确率，采用 Mid-block 设计和 K=4，优于大多数先前的二值化网络，仅略逊于 Bi-RealNet。
• 与 Bi-RealNet-18 相比，模型推理速度提升 3.13 倍，模型压缩 1.34 倍，且仅存在 2% 的准确率差距。
• 从随机初始化训练是可行且有效的，无需依赖预训练浮点权重，这是相较于大多数现有二值化网络的关键优势。
• Mid-block 设计因能通过跳跃连接同时保留原始特征和缩放后的特征，从而实现最高准确率。
• K-依赖性显著提升了特征相关性和准确率，其中 K=4 在测试配置中表现最佳。
• MoBiNet 将 FLOPs 降低至 0.52×10⁸，相比全精度 MobileNet 实现 12 倍的速度提升，展现出显著的效率增益。