[论文解读] Cascaded Subpatch Networks for Effective CNNs

Xiaoheng Jiang, Yanwei Pang+2 more|arXiv (Cornell University)|Mar 1, 2016

Advanced Neural Network Applications参考文献 38被引用 5

一句话总结

本文提出级联子块网络（CSNet），一种新型CNN架构，用级联子块滤波器（由h×w线性滤波器后接1×1滤波器组成）替代标准卷积滤波器，以从局部图像块中提取更丰富、更鲁棒的特征。通过堆叠多层此类结构，直至空间维度缩减为单个神经元，CSNet在参数量极少的紧凑架构下实现最先进性能，在CIFAR-10测试集上达到5.68%的错误率，且无需模型平均。

ABSTRACT

Conventional Convolutional Neural Networks (CNNs) use either a linear or non-linear filter to extract features from an image patch (region) of spatial size $ H imes W $ (Typically, $ H $ is small and is equal to $ W$, e.g., $ H $ is 5 or 7). Generally, the size of the filter is equal to the size $ H imes W $ of the input patch. We argue that the representation ability of equal-size strategy is not strong enough. To overcome the drawback, we propose to use subpatch filter whose spatial size $ h imes w $ is smaller than $ H imes W $. The proposed subpatch filter consists of two subsequent filters. The first one is a linear filter of spatial size $ h imes w $ and is aimed at extracting features from spatial domain. The second one is of spatial size $ 1 imes 1 $ and is used for strengthening the connection between different input feature channels and for reducing the number of parameters. The subpatch filter convolves with the input patch and the resulting network is called a subpatch network. Taking the output of one subpatch network as input, we further repeat constructing subpatch networks until the output contains only one neuron in spatial domain. These subpatch networks form a new network called Cascaded Subpatch Network (CSNet). The feature layer generated by CSNet is called csconv layer. For the whole input image, we construct a deep neural network by stacking a sequence of csconv layers. Experimental results on four benchmark datasets demonstrate the effectiveness and compactness of the proposed CSNet. For example, our CSNet reaches a test error of $ 5.68\% $ on the CIFAR10 dataset without model averaging. To the best of our knowledge, this is the best result ever obtained on the CIFAR10 dataset.

研究动机与目标

• 解决传统CNN中滤波器尺寸与输入块大小匹配所导致的表征能力受限问题。
• 在不显著增加网络深度或宽度的前提下，提升局部图像块中的特征抽象能力。
• 通过分层子块特征学习，降低模型复杂度，同时增强判别能力。
• 开发一种紧凑但高效卷积层结构，以在标准基准上实现更优性能。

提出的方法

• 用大小为h×w（h>1, w>1）的级联子块滤波器（h×w线性滤波器后接1×1滤波器）替代标准H×W卷积滤波器。
• 使用首个子块滤波器从输入块的子区域中提取空间特征。
• 在第一层后应用1×1卷积滤波器，以融合跨通道信息并减少参数量。
• 将多个子块网络层依次堆叠，逐步减小空间维度，直至每个特征图仅剩一个神经元。
• 将单个级联子块网络的输出构建为csconv层，用于替代标准卷积层。
• 通过在神经网络架构中堆叠多个csconv层，实现端到端学习。

实验结果

研究问题

• RQ1 与标准固定尺寸滤波器相比，分层子块滤波机制是否能提升CNN中的特征表征能力？
• RQ2 通过减小空间尺寸并结合1×1融合的级联子块滤波器，是否能在参数更少的情况下实现更好的泛化性能？
• RQ3 该架构是否能在无需数据增强的情况下，在标准视觉基准上实现SOTA性能？
• RQ4 在CIFAR和MNIST数据集上，所提出的csconv层在效率和准确率方面与现有深度网络相比如何？

主要发现

• CSNet在CIFAR-10上实现5.68%的测试错误率，且无需模型平均，是该数据集在发表时报告的最佳结果。
• 在CIFAR-100上，CSNet-M实现30.24%的测试错误率，较第二名方法（RCNN-160，31.75%）高出1.51个百分点。
• 在MNIST上，CSNet-S实现0.31%的测试错误率，与最佳性能方法持平，达到SOTA水平。
• 在SVHN上，CSNet-M实现1.90%的测试错误率，接近最佳结果（1.80%），并较NIN高出0.45个百分点。
• 所提出的csconv层在减少参数量的同时提升了特征抽象能力，使网络更紧凑但更强大。
• 级联子块设计支持有效的分层特征学习，其过程类似于从H×W到1×1的分辨率递减金字塔结构。