[论文解读] IGCV3: Interleaved Low-Rank Group Convolutions for Efficient Deep Neural Networks

Ke Sun, Mingjie Li+2 more|arXiv (Cornell University)|May 31, 2018

Advanced Neural Network Applications被引用 100

一句话总结

IGCV3 将低秩和稀疏内核通过交错低秩分组卷积结合，构建高效密集卷积核，在 CIFAR/ImageNet 与 COCO 上相对于 IGCV2 与 MobileNetV2 提升精度，同时保持相似的参数量。

ABSTRACT

In this paper, we are interested in building lightweight and efficient convolutional neural networks. Inspired by the success of two design patterns, composition of structured sparse kernels, e.g., interleaved group convolutions (IGC), and composition of low-rank kernels, e.g., bottle-neck modules, we study the combination of such two design patterns, using the composition of structured sparse low-rank kernels, to form a convolutional kernel. Rather than introducing a complementary condition over channels, we introduce a loose complementary condition, which is formulated by imposing the complementary condition over super-channels, to guide the design for generating a dense convolutional kernel. The resulting network is called IGCV3. We empirically demonstrate that the combination of low-rank and sparse kernels boosts the performance and the superiority of our proposed approach to the state-of-the-arts, IGCV2 and MobileNetV2 over image classification on CIFAR and ImageNet and object detection on COCO.

研究动机与目标

• 以更少冗余实现轻量级 CNN 的设计动机。
• 将低秩与结构化稀疏性融合，形成密集卷积核。
• 引入一个宽松的互补条件（超通道）以指导卷积核的组成。
• 在视觉基准上对 IGCV3 与 IGCV2 和 MobileNetV2 进行实证评估。

提出的方法

• 提出 IGCV3 作为一个块，堆叠通道方向的空间卷积、低秩分组点卷积（两阶段先压缩再恢复宽度），并通过置换保持密集连接。
• 通过块状稀疏矩阵和超通道来表示低秩分组卷积，以管理输入/输出通道数的差异。
• 在超通道上使用松散的互补条件来引导两组卷积分支的排列。
• 提供一个反转版 IGCV3-D，遵循反向瓶颈风格，在训练/推理时节省内存。
• 通过比较参数数量、在 CIFAR-10/100 与 ImageNet 上的准确性，以及在 COCO 上的目标检测，与 MobileNetV2 与 IGCV2 相比来评估网络。

实验结果

研究问题

• RQ1 将低秩分组卷积与交错稀疏结构相结合，是否在固定参数预算下比先前的移动架构提高准确性？
• RQ2 超通道上的松散互补条件如何影响 IGCV3 块的设计与性能？
• RQ3 对于分类和检测任务，更深的 IGCV3 配置与更宽的配置之间有哪些权衡？
• RQ4 相对于 IGCV2 和 MobileNetV2，IGCV3 在标准基准（CIFAR、ImageNet、COCO）上的表现如何？

主要发现

• IGCV3-D（具有两个低秩分组卷积的更深版本）在 CIFAR-10 上达到 94.96%，在 CIFAR-100 上达到 77.95%，参数量为 2.2M，在相似参数量下优于 IGCV2 与 MobileNetV2 基线。
• 在 ImageNet 上，IGCV3-D 在相当的计算量下达到 72.2% 的 top-1，超越了若干移动网络基线。
• IGCV3 在 MobileNetV2 参数的 50% 下，仍可在 CIFAR 与 ImageNet 上提供有竞争力或更优的准确性，得益于低秩与稀疏设计的结合。
• 在 CIFAR/imagenet 的分类以及作为骨干（SSDLite2）时，IGCV3 超越 MobileNetV2 在 COCO 检测上的表现，且参数更少。
• 更深的 IGCV3 配置比单纯增宽网络更能从深度中获益，这与瓶颈式/ResNet 风格的结论一致。
• 消融研究显示第二个块的中间 ReLU 与两个低秩分组卷积在容量与内存之间取得了良好平衡。