[论文解读] PydMobileNet: Improved Version of MobileNets with Pyramid Depthwise Separable Convolution

Van-Thanh Hoang, Kang-Hyun Jo|arXiv (Cornell University)|Nov 17, 2018

IoT and Edge/Fog Computing参考文献 45被引用 4

一句话总结

本文提出 PydMobileNet，一种改进的 MobileNet 变体，通过采用金字塔核大小策略替代标准的 3×3 深度可分离卷积，以捕获更丰富的空间特征。通过使用加法或连接方式融合特征图并调整宽度乘数，PydMobileNet 在 CIFAR-10 和 CIFAR-100 上实现了比 MobileNet 及其他最先进模型更优的准确率，同时参数量更少、延迟更低。

ABSTRACT

Convolutional neural networks (CNNs) have shown remarkable performance in various computer vision tasks in recent years. However, the increasing model size has raised challenges in adopting them in real-time applications as well as mobile and embedded vision applications. Many works try to build networks as small as possible while still have acceptable performance. The state-of-the-art architecture is MobileNets. They use Depthwise Separable Convolution (DWConvolution) in place of standard Convolution to reduce the size of networks. This paper describes an improved version of MobileNet, called Pyramid Mobile Network. Instead of using just a $3 imes 3$ kernel size for DWConvolution like in MobileNet, the proposed network uses a pyramid kernel size to capture more spatial information. The proposed architecture is evaluated on two highly competitive object recognition benchmark datasets (CIFAR-10, CIFAR-100). The experiments demonstrate that the proposed network achieves better performance compared with MobileNet as well as other state-of-the-art networks. Additionally, it is more flexible in fine-tuning the trade-off between accuracy, latency and model size than MobileNets.

研究动机与目标

• 解决在计算资源有限的移动端和嵌入式设备上部署紧凑且高精度卷积神经网络的挑战。
• 改进 MobileNet 对固定 3×3 深度可分离卷积的依赖，实现多尺度空间特征提取。
• 通过可调网络宽度和特征融合策略，提供在模型准确率、推理延迟与参数量之间更灵活的平衡。
• 证明金字塔核大小的深度可分离卷积在基准数据集上的准确率与效率方面可超越标准深度可分离卷积。

提出的方法

• 用一种金字塔核大小策略替代 MobileNet 中的标准 3×3 深度可分离卷积，该策略并行应用多种核大小（如 3×3、5×5、7×7）。
• 使用瓶颈残差块控制通道维度，保持计算效率。
• 通过逐元素加法或连接操作融合不同核大小的特征图，以保留空间与通道信息。
• 引入宽度乘数超参数以缩放通道数量，控制模型容量，实现对准确率、模型大小与延迟的细粒度权衡。
• 在 CIFAR-10 和 CIFAR-100 数据集上使用标准优化协议端到端训练网络。
• 在 CPU 和 GPU 上评估推理速度，以评估其在实际部署中的可行性，尤其考虑深度学习框架中深度可分离卷积实现的平台特异性低效问题。

实验结果

研究问题

• RQ1 在深度可分离卷积中采用金字塔核大小策略是否能相比 MobileNet 中固定的 3×3 核，提升特征表示能力？
• RQ2 通过加法或连接方式进行特征融合，对模型的准确率、参数量与推理速度有何影响？
• RQ3 PydMobileNet 在 CIFAR-10 和 CIFAR-100 上能否以更少的参数量实现比 MobileNet 及其他最先进模型更高的准确率？
• RQ4 在 CPU 和 GPU 上部署时，PydMobileNet 的推理速度与 MobileNet 和 ResNet 相比如何，尤其是在当前深度学习框架中深度可分离卷积实现效率较低的背景下？

主要发现

• PydMobileNet-Add-56-1 在 CIFAR-100 上实现了 10.7% 的 top-1 错误率，仅使用 0.382M 参数，优于 MobileNet-56-1（0.416M 参数，11.1% 错误率）及其他最先进模型。
• 在 CIFAR-10 上，PydMobileNet 变体实现了与 MobileNet 和 ResNet 相当或更低的错误率，同时参数量显著更少。
• PydMobileNet-Concat-56-0.25 变体在 CIFAR-100 上实现了 17.7% 的 top-1 错误率，仅使用 0.175M 参数，展现出极高的效率。
• 推理速度评估表明，PydMobileNet-Concat 变体在 CPU 和 GPU 上的推理速度与 MobileNet 相当，表明其尽管结构更深，仍具备实际可部署性。
• 模型在不同宽度乘数和融合策略下表现稳健，证实其在准确率-延迟-大小权衡方面具备高度灵活性。
• 训练曲线显示，56 层的 PydMobileNet-0.25-Concat 模型达到了与 110 层 ResNet 相当的测试错误率，但参数量显著更少且收敛更快。