[论文解读] Scale-Invariant Convolutional Neural Networks

Yichong Xu, Tianjun Xiao+3 more|arXiv (Cornell University)|Nov 24, 2014

Advanced Neural Network Applications参考文献 16被引用 105

一句话总结

本文提出尺度不变卷积神经网络（SiCNN），一种多列CNN架构，通过在列之间使用尺度变换共享滤波器参数，实现尺度不变性，从而在不增加模型大小或依赖大量数据增强的情况下，实现对不同物体尺度的鲁棒性能。与基线CNN相比，SiCNN在CIFAR-10上的分类误差降低了2.1%（从14.22%降至14.22%），当与maxout结合时，仅需极少的额外训练成本，即可将误差率降至11.33%。

ABSTRACT

Even though convolutional neural networks (CNN) has achieved near-human performance in various computer vision tasks, its ability to tolerate scale variations is limited. The popular practise is making the model bigger first, and then train it with data augmentation using extensive scale-jittering. In this paper, we propose a scaleinvariant convolutional neural network (SiCNN), a modeldesigned to incorporate multi-scale feature exaction and classification into the network structure. SiCNN uses a multi-column architecture, with each column focusing on a particular scale. Unlike previous multi-column strategies, these columns share the same set of filter parameters by a scale transformation among them. This design deals with scale variation without blowing up the model size. Experimental results show that SiCNN detects features at various scales, and the classification result exhibits strong robustness against object scale variations.

研究动机与目标

• 为解决标准CNN中尺度不变性有限的问题，后者在识别不同输入尺度下的物体时表现不佳。
• 开发一种模型，能够在不增加自由参数数量或依赖数据增强（如尺度抖动）的情况下，保持对尺度变化的鲁棒性。
• 通过使每列专注于特定尺度，同时强制参数共享，实现在单一架构内进行多尺度特征学习。
• 探索增量训练策略，以在保持尺度不变性带来的性能提升的同时，降低训练成本。
• 证明SiCNN可与现有技术（如maxout和dropout）互补，提升基准数据集上的整体准确率。

提出的方法

• SiCNN采用多列CNN架构，每列使用经尺度变换的滤波器，以不同尺度处理输入。
• 通过尺度变换在各列之间共享滤波器参数，确保同一滤波器在不同尺度下应用，而无需重复参数。
• 各列使用标准的卷积和最大池化层，最终将特征拼接后输入分类器。
• 关键创新在于使用尺度变换将滤波器从一列映射到另一列，既保持参数效率，又实现对尺度特异性特征的检测。
• 采用增量训练：先训练单列CNN，然后用其滤波器初始化多列SiCNN，最后以极少的额外训练时间微调完整模型。
• 模型使用单个Softmax分类器，特征融合通过列间拼接实现。

实验结果

研究问题

• RQ1 能否设计一种CNN架构，在不增加模型大小或依赖数据增强的情况下实现尺度不变性？
• RQ2 通过尺度变换在列之间共享参数，是否能提升在物体识别中对尺度变化的鲁棒性？
• RQ3 增量训练能否降低SiCNN的训练成本，同时保持高性能？
• RQ4 SiCNN与maxout和网络内网络等最先进模型在标准基准上的表现如何比较？
• RQ5 SiCNN能否与dropout或maxout等其他优化技术有效结合，进一步提升准确率？

主要发现

• SiCNN在未增强的CIFAR-10数据集上达到14.22%的测试误差率，相比基线CNN绝对降低2.1%。
• 该模型对尺度变化表现出强鲁棒性，专用于大尺度的列在大输入模式下激活更强。
• 增量训练将训练成本降低近一半（降至基线的3.5倍），同时保持与从零开始训练相当的性能（误差率14.71%）。
• 当与maxout结合时，SiCNN将误差率从11.68%降至11.33%，仅使用一个双列maxout-SiCNN模型。
• 使用独立滤波器的6列SiCNN严重过拟合（测试误差约19%），证实参数共享对泛化至关重要。
• 该方法与dropout、maxout等现有技术具有互补性，并在ImageNet等更大数据集上展现出应用潜力。