[论文解读] Equivariant neural networks and equivarification

Erkao Bao, Lu, Jingcheng+4 more|arXiv (Cornell University)|Jun 16, 2019

Image Retrieval and Classification Techniques参考文献 8被引用 7

一句话总结

本文提出了一种统一的等变化方法，利用群作用理论将任意前馈神经网络（如MLP或CNN）转化为等变网络，而无需了解各层函数的具体细节。该方法在保持模型复杂度不变的同时实现了端到端的等变性，在MNIST数据集上对数字和旋转角度的联合预测达到了96.8%的准确率。

ABSTRACT

Equivariant neural networks are a class of neural networks designed to preserve symmetries inherent in the data. In this paper, we introduce a general method for modifying a neural network to enforce equivariance, a process we refer to as equivarification. We further show that group convolutional neural networks (G-CNNs) arise as a special case of our framework.

研究动机与目标

• 解决现有等变神经网络设计与训练复杂度过高的问题，避免对每一层进行特定工程设计。
• 开发一种可推广的方法，能够将任意前馈神经网络转化为等变网络，且无需事先了解各层函数的细节。
• 在保持与原始网络相同参数数量的同时，实现所有层的等变性。
• 通过单一统一的架构，实现对类别标签和对称变换（如旋转角度）的同时预测。
• 建立一个理论基础坚实的通用框架，适用于数据上任意群作用的等变化。

提出的方法

• 利用群作用理论定义一种在前馈网络所有层上统一运作的通用等变化过程。
• 构建一个提升空间 $ Z^{ imes G} $，其中每个元素对应从群 $ G $ 到输出空间 $ Z $ 的函数，从而实现群等变表示。
• 通过 $ s \mapsto (s(e), s(g^{-1}), s(g^{-2}), s(g^{-3})) $ 直接对特征图应用群作用，确保通过变换传播实现等变性。
• 利用 $ G $-等变提升的普遍性质，保证任何从输入空间 $ X $ 到输出的等变映射均可通过等变化网络进行因子分解。
• 采用商群 $ G/N $，其中 $ N $ 是群作用的核，当群作用非有效时，用于减小提升空间的大小。
• 在不修改原始网络架构或参数数量的前提下实现等变化过程，从而保持训练效率。

实验结果

研究问题

• RQ1 能否开发一种统一的、与架构无关的方法，使任意前馈神经网络在给定群作用下实现等变性？
• RQ2 通过群作用理论实现的等变化是否能在保持原始网络参数数量的同时，实现各层的等变性？
• RQ3 等变化后的网络能否以高准确率联合预测类别标签和对称变换（如旋转角度）？
• RQ4 该等变化过程是否独立于数据增强和损失函数设计，仅依赖于结构不变性？
• RQ5 该方法能否推广至任意群和任意前馈网络，而无需对各层进行特定重设计？

主要发现

• 该等变化方法成功地将标准CNN转化为完全等变的旋转对称网络，无需对各层进行重新设计。
• 所得到的等变网络在MNIST数据集上对数字类别和旋转角度的联合预测达到96.8%的测试准确率。
• 由于基于群作用的构造，等变性在所有层中均被保持，确保了变换传播的一致性。
• 该方法保持了与原始网络相同的参数数量，避免了模型复杂度的增加。
• 网络能够输出输入图像的旋转角度（如90°、180°），同时保持等变性，从而实现可解释的变换预测。
• 等变化框架独立于数据增强和损失函数设计，因为等变性已嵌入网络结构之中。