[论文解读] Steerable CNNs

Taco Cohen, Max Welling|arXiv (Cornell University)|Dec 27, 2016

Advanced Neural Network Applications被引用 23

一句话总结

本文提出了可旋转卷积神经网络（Steerable Convolutional Neural Networks, Steerable CNNs），这是一类利用表示理论强制实现群变换（如旋转和翻转）下线性可旋转性的等变CNN。通过将特征表示分解为与特定对称性相关的基元类型，该方法降低了参数共享成本，并在仅使用少量标注数据的情况下，在CIFAR-10和CIFAR-100上实现了最先进性能，优于ResNets、宽网络和密集网络以及半监督基线模型。

ABSTRACT

It has long been recognized that the invariance and equivariance properties of a representation are critically important for success in many vision tasks. In this paper we present Steerable Convolutional Neural Networks, an efficient and flexible class of equivariant convolutional networks. We show that steerable CNNs achieve state of the art results on the CIFAR image classification benchmark. The mathematical theory of steerable representations reveals a type system in which any steerable representation is a composition of elementary feature types, each one associated with a particular kind of symmetry. We show how the parameter cost of a steerable filter bank depends on the types of the input and output features, and show how to use this knowledge to construct CNNs that utilize parameters effectively.

研究动机与目标

• 开发一种灵活且高效的等变卷积网络框架，使其能超越离散且规模较小的对称群。
• 通过利用可旋转表示的数学结构，降低滤波器组的参数成本。
• 通过在神经网络架构中嵌入对称性归纳偏置，提升深度学习的统计效率。
• 证明可旋转性在低数据环境下可带来更优性能。
• 建立表示理论与深度学习之间的理论基础，以更好地理解等变特征学习。

提出的方法

• 本文提出一种类型系统，其中任意可旋转表示均由与特定对称类型相关的基元特征类型组成。
• 利用群表示理论定义特征图在群作用下的变换方式，确保特征响应在变换下可线性旋转。
• 通过约束卷积滤波器的权重初始化和参数共享方式，使其与输入和输出特征类型的变换规则相匹配，从而强制实现等变性。
• 基于对称群的不可约表示，推导出可旋转滤波器组参数数量的闭式表达式。
• 架构采用残差块设计，结合混合胶囊类型——商表示与不可约表示——并配合ReLU和CReLU等非线性激活函数。
• 通过利用表示的代数结构，将计算成本与群大小解耦，从而实现向更大群的可扩展性。

实验结果

研究问题

• RQ1 如何系统性地构建对连续和大规模对称群等变的卷积网络？
• RQ2 在给定群作用下，将一种可旋转特征类型映射到另一种的滤波器组的最小参数成本是多少？
• RQ3 基于表示理论的框架能否提升深度学习的统计效率，尤其是在标注数据有限的情况下？
• RQ4 基元特征类型的组合如何影响可旋转CNN的表达能力与性能？
• RQ5 在低数据设置下，可旋转表示能否在图像分类基准测试中超越标准CNN？

主要发现

• 在使用50,000个标注样本的CIFAR-10上，可旋转CNN的测试误差为3.65%，优于ResNet（4.62%）、Wide ResNet（4.17%）和DenseNet（3.74%）。
• 在使用50,000个标注样本的CIFAR-100上，该方法实现18.82%的误差，优于ResNet（22.71%）、Wide ResNet（20.50%）和DenseNet（19.25%）。
• 仅使用4,000个标注样本时，可旋转CNN在CIFAR-10+上实现16.42%的误差，优于半监督方法Rasmus et al.（2016）和基于DCGAN的迁移学习（26.2%误差）。
• 采用混合胶囊类型（商表示与不可约表示）的架构在使用2,000个标签的CIFAR-10上实现24.48%的误差，优于标准ResNets和普通胶囊网络。
• 通过将滤波器权重与对称群的不可约表示对齐，显著降低了可旋转滤波器组的参数成本，实现了高效的参数共享。
• 理论框架通过将计算成本与群大小解耦，使模型可扩展至更大和连续的对称群，为未来在3D任务和连续控制任务中的应用铺平道路。