[论文解读] Learning Steerable Filters for Rotation Equivariant CNNs

Maurice Weiler, Fred A. Hamprecht+1 more|arXiv (Cornell University)|Nov 20, 2017

Topic Modeling参考文献 26被引用 13

一句话总结

本文提出了一种可旋转调节的滤波器卷积神经网络（SFCNN），这是一种旋转等变的卷积神经网络架构，通过将滤波器表示为原子可旋转滤波器的线性组合，实现精确的旋转等变性，且无插值伪影。该方法采用群卷积和广义He权重初始化，在旋转MNIST数据集上达到最先进性能（99.1%准确率），并在ISBI 2012电子显微镜分割挑战赛中位列前三。

ABSTRACT

In many machine learning tasks it is desirable that a model's prediction transforms in an equivariant way under transformations of its input. Convolutional neural networks (CNNs) implement translational equivariance by construction; for other transformations, however, they are compelled to learn the proper mapping. In this work, we develop Steerable Filter CNNs (SFCNNs) which achieve joint equivariance under translations and rotations by design. The proposed architecture employs steerable filters to efficiently compute orientation dependent responses for many orientations without suffering interpolation artifacts from filter rotation. We utilize group convolutions which guarantee an equivariant mapping. In addition, we generalize He's weight initialization scheme to filters which are defined as a linear combination of a system of atomic filters. Numerical experiments show a substantial enhancement of the sample complexity with a growing number of sampled filter orientations and confirm that the network generalizes learned patterns over orientations. The proposed approach achieves state-of-the-art on the rotated MNIST benchmark and on the ISBI 2012 2D EM segmentation challenge.

研究动机与目标

• 设计一种在架构上同时具备平移与旋转等变性的CNN架构，以减少过拟合并提升泛化能力。
• 通过将可旋转滤波器参数化为原子基函数的线性组合，消除滤波器旋转中的插值伪影。
• 将He的权重初始化方案推广至定义在可旋转函数空间中的滤波器，确保训练稳定。
• 通过在基准数据集上的实证评估，证明在不同方向上的样本复杂度和泛化能力得到改善。
• 在旋转等变任务（如旋转MNIST和电子显微镜图像分割）中实现最先进性能。

提出的方法

• 网络使用群卷积，在所有层中强制实现平移与旋转的联合等变性。
• 滤波器被参数化为一组固定原子可旋转滤波器的线性组合，通过调节展开系数的相位实现精确旋转。
• 该方法通过将原子滤波器基的能量进行归一化，推广He的权重初始化，以维持梯度稳定。
• 该架构在不同方向间共享权重，使参数效率提升Λ倍（采样方向数）。
• 对于分割任务，通过全局方向池化获得方向平均响应，生成局部不变特征。
• 网络使用Adam优化器、弹性网络正则化和Dropout进行训练，并采用学习率衰减和数据增强以提升鲁棒性。

实验结果

研究问题

• RQ1 能否设计一种CNN架构，在滤波器旋转过程中完全避免插值伪影，实现精确的旋转等变性？
• RQ2 使用可旋转滤波器和群卷积如何影响在不同方向上的样本复杂度与泛化能力？
• RQ3 能否为可旋转滤波器基推导出一种广义的权重初始化方案，以维持训练稳定性？
• RQ4 所提出的SFCNN架构是否在旋转等变基准任务上优于标准CNN？
• RQ5 增加采样方向数在多大程度上能提升在旋转不变识别任务中的性能？

主要发现

• SFCNN在旋转MNIST基准测试中达到99.1%的准确率，超越所有先前方法，是首个在该任务上突破99%的模型。
• 随着角分辨率提高，性能显著提升，表明随着采样方向数的增加，样本复杂度降低。
• 该网络在ISBI 2012 2D电子显微镜分割挑战赛中位列前三，验证了其在真实生物医学成像任务中的有效性。
• 使用可旋转滤波器消除了在旋转滤波器学习中常见的插值伪影，这些伪影通常会降低性能。
• 广义He初始化方案通过归一化原子滤波器基函数的能量，确保了训练的稳定性。
• 通过旋转权重共享，该架构实现了高参数效率，可在不引起过拟合的情况下构建大规模有效滤波器组。