[论文解读] Group Equivariant Convolutional Networks

Taco Cohen, Max Welling|arXiv (Cornell University)|Feb 24, 2016

Advanced Neural Network Applications参考文献 41被引用 584

一句话总结

本文将 CNNs 泛化为对离散对称群（如 p4 和 p4m）的组等变卷积（G-卷积），在不增加参数的情况下实现性能提升，并在旋转的 MNIST 和 CIFAR-10 上取得最先进的结果，开销极小。

ABSTRACT

We introduce Group equivariant Convolutional Neural Networks (G-CNNs), a natural generalization of convolutional neural networks that reduces sample complexity by exploiting symmetries. G-CNNs use G-convolutions, a new type of layer that enjoys a substantially higher degree of weight sharing than regular convolution layers. G-convolutions increase the expressive capacity of the network without increasing the number of parameters. Group convolution layers are easy to use and can be implemented with negligible computational overhead for discrete groups generated by translations, reflections and rotations. G-CNNs achieve state of the art results on CIFAR10 and rotated MNIST.

研究动机与目标

• 动机并形式化在深度网络中使用对称群以提高数据效率。
• 引入 G-卷积，并展示它们在保持表达能力的同时比标准卷积具有更多的权重共享。
• 证明 G-CNNs 在旋转的 MNIST 和 CIFAR-10 上取得了最先进的结果，计算开销可以忽略不计。
• 为离散群的 G-卷积和池化提供实际实现指南。
• 讨论神经网络中结构化表示的扩展及未来方向。

提出的方法

• 定义群作用和在群上的函数，以将特征图建模为 G-空间。
• 引入在群 G 上工作的 G-卷积（G-相关），确保在 G 变换下的等变性。
• 表明非线性函数和池化可以设计为保持等变性（包括 G/H 的余集池化）。
• 通过滤波器变换和平面卷积实现高效实现，使对像如 p4 和 p4m 这样的分裂群的 G-卷积能够快速运算。
• 证明标准网络组件（批归一化、残差块）在 G-CNNs 内保持等变性。

实验结果

研究问题

• RQ1 是否可以将 CNN 泛化为对比平移以外的更大对称群（如旋转和翻转）保持等变性，而不增加参数数量？
• RQ2 G-卷积、G-池化和非线性在各层是否保持等变性，从而实现深层 G-CNN？
• RQ3 与标准 CNN 相比，G-CNN 在旋转或增强数据集（MNIST-rot、CIFAR-10）上是否带来实际的性能提升？
• RQ4 在实现像 p4 和 p4m 这样的群的 G-卷积时有哪些实际考虑因素和效率成本？
• RQ5 将 G-CNN 应用于其他群或更高维度有哪些扩展和未来方向？

主要发现

• 离散群（p4、p4m）上的 G-卷积在变换之间共享的权重显著更多，在不增加参数的前提下提升表达能力。
• G-CNN 在旋转的 MNIST 上取得了最先进的结果：P4CNN 达到 2.28% 的测试误差，优于现有方法。
• 在 CIFAR-10 和增强的 CIFAR-10+ 上，带 p4m 的 G-CNNs 取得了强劲结果：带 p4m 的 ResNet44 分别达到 6.46% 和 4.94%，并且一个更宽的 26 层 p4m 网络在增强下达到 4.19%（相比于平面卷积的 5.27%）。
• 用 G-卷积替代平面卷积可带来持续的改进，无需大量调参。
• G-CNNs 受数据增强的收益与标准 CNN 相似，即使数据集并非完美对称也可观察到改进。