[论文解读] XSepConv: Extremely Separated Convolution

Jiarong Chen, Zongqing Lu+2 more|arXiv (Cornell University)|Feb 27, 2020

Advanced Neural Network Applications参考文献 39被引用 10

一句话总结

本文提出了一种新型卷积模块 XSepConv，通过将空间可分离卷积与深度可分离卷积相结合，显著降低了大感受野深度可分离卷积中的 FLOPs 和参数量。通过集成一个策略性的 $2\times2$ 深度可分离卷积以及改进的对称填充方案，XSepConv 在 CIFAR-10、CIFAR-100、SVHN 和 Tiny-ImageNet 上实现了比标准深度可分离卷积更高的准确率，同时保持了卓越的效率。

ABSTRACT

Depthwise convolution has gradually become an indispensable operation for modern efficient neural networks and larger kernel sizes ($\ge5$) have been applied to it recently. In this paper, we propose a novel extremely separated convolutional block (XSepConv), which fuses spatially separable convolutions into depthwise convolution to further reduce both the computational cost and parameter size of large kernels. Furthermore, an extra $2 imes2$ depthwise convolution coupled with improved symmetric padding strategy is employed to compensate for the side effect brought by spatially separable convolutions. XSepConv is designed to be an efficient alternative to vanilla depthwise convolution with large kernel sizes. To verify this, we use XSepConv for the state-of-the-art architecture MobileNetV3-Small and carry out extensive experiments on four highly competitive benchmark datasets (CIFAR-10, CIFAR-100, SVHN and Tiny-ImageNet) to demonstrate that XSepConv can indeed strike a better trade-off between accuracy and efficiency.

研究动机与目标

• 解决高效卷积神经网络中大感受野深度可分离卷积带来的高计算与参数开销问题。
• 探索超越通道分离的空间分解方法，以进一步降低计算负担。
• 通过引入补偿性 $2\times2$ 深度可分离卷积，缓解空间可分离卷积导致的信息损失。
• 改进深度网络中偶数尺寸卷积的对称填充策略，以保持输出对称性与性能。
• 为移动与边缘 AI 模型提供一种即插即用、高效的原始深度可分离卷积替代方案。

提出的方法

• XSepConv 将空间可分离卷积（宽度方向与高度方向）融合进深度可分离卷积中，将大尺寸二维卷积核分解为一维操作。
• 在模块起始位置插入额外的 $2\times2$ 深度可分离卷积，以捕捉空间可分离卷积所遗漏的方向性信息。
• 改进的对称填充策略在连续四个偶数尺寸卷积层上应用对称填充，而非单一层，从而减少输出不对称性。
• 该模块通过两阶段步长大卷积（s12 和 s21）支持空间下采样，以保持特征完整性。
• 该架构设计为标准深度可分离卷积在 MobileNetV3-Small 等模型中的即插即用替代方案。
• 消融实验评估了 $2\times2$ 卷积位置与填充策略对准确率与效率的影响。

实验结果

研究问题

• RQ1 空间可分离卷积能否与深度可分离卷积有效结合，以在大感受野设置下降低 FLOPs 与参数量？
• RQ2 通过引入 $2\times2$ 深度可分离卷积，是否能通过补偿空间可分离卷积中的信息损失来提升性能？
• RQ3 与原始方法相比，所提出的改进对称填充策略对最终网络准确率的影响如何？
• RQ4 在 XSepConv 模块中，$2\times2$ 深度可分离卷积的最优位置为何，以实现准确率与效率的平衡？
• RQ5 XSepConv 是否能在基准数据集上以更低的计算成本实现比标准深度可分离卷积更高的准确率？

主要发现

• 在 Tiny-ImageNet 上，XSepConv 仅使用 1.70M 参数与 49.18M FLOPs 即达到 59.82% 的 top-1 准确率，优于基线深度可分离卷积。
• 在 CIFAR-100 上，XSepConv 实现 74.02% 的准确率，参数量为 1.70M，FLOPs 为 49.18M，相比原始对称填充基线提升 0.49%。
• 当 $2\times2$ 卷积置于空间可分离卷积之前时（XSepConv），性能最佳；若置于之后（XSepConv-B）或并行（XSepConv-P），CIFAR-100 上准确率分别下降 0.49% 与 0.88%。
• 与原始对称填充方法相比，改进的对称填充策略在 CIFAR-100 上提升准确率 0.21%，在 Tiny-ImageNet 上提升 0.24%。
• XSepConv 在保持与基线模型相同 FLOPs 与参数量的同时，显著提升了 CIFAR-10、CIFAR-100、SVHN 与 Tiny-ImageNet 四个数据集上的准确率。
• 消融实验确认，$2\times2$ 深度可分离卷积在模块前端放置时效果最佳，可在空间分解前有效保留特征表示。