[论文解读] PDO-eConvs: Partial Differential Operator Based Equivariant Convolutions

Zhengyang Shen, Lingshen He+2 more|arXiv (Cornell University)|Jul 20, 2020

Medical Imaging and Analysis被引用 12

一句话总结

该论文提出 PDO-eConvs，一种新型卷积神经网络架构，通过在连续域中利用偏微分算子（PDOs）并采用数值方法进行离散化，实现了对连续旋转群（例如 p8）的近似等变性。该方法提供了对近似等变性的首次误差分析，表明其近似误差为二阶，且在 ImageNet 上实现了当前最优性能，参数量比 Wide ResNets 减少 12.6%。

ABSTRACT

Recent research has shown that incorporating equivariance into neural network architectures is very helpful, and there have been some works investigating the equivariance of networks under group actions. However, as digital images and feature maps are on the discrete meshgrid, corresponding equivariance-preserving transformation groups are very limited. In this work, we deal with this issue from the connection between convolutions and partial differential operators (PDOs). In theory, assuming inputs to be smooth, we transform PDOs and propose a system which is equivariant to a much more general continuous group, the $n$-dimension Euclidean group. In implementation, we discretize the system using the numerical schemes of PDOs, deriving approximately equivariant convolutions (PDO-eConvs). Theoretically, the approximation error of PDO-eConvs is of the quadratic order. It is the first time that the error analysis is provided when the equivariance is approximate. Extensive experiments on rotated MNIST and natural image classification show that PDO-eConvs perform competitively yet use parameters much more efficiently. Particularly, compared with Wide ResNets, our methods result in better results using only 12.6% parameters.

研究动机与目标

• 解决现有等变 CNN 仅限于方形或六边形格点上的离散旋转对称性（如 p4m、p6m）的局限性。
• 通过将卷积建模为偏微分算子（PDOs），将等变性扩展到更广泛的连续变换群类别，特别是 n 维欧几里得群。
• 提供一种理论基础坚实的近似方案，量化连续等变系统在数字图像网格上离散化实现时的误差。
• 证明所提出的 PDO-eConvs 在图像分类基准上实现了更高的参数效率和性能。

提出的方法

• 该方法将卷积表述为偏微分算子（PDOs）的线性组合，从而在连续域中实现对 n 维欧几里得群的精确等变性。
• 利用欧几里得群的李代数结构，推导出在平移和旋转下保持等变性的 PDO 系统。
• 通过有限差分格式对连续 PDO 系统进行离散化，得到近似等变的卷积（PDO-eConvs）。
• 对近似误差进行了严格分析，证明其为二阶误差，这是首次为近似等变网络提供此类误差界。
• 该方法集成了批量归一化和通道间权重共享，通过调整网络深度和宽度以保持参数效率。
• 实现采用标准训练协议，包括 SGD、Nesterov 动量和学习率衰减，同时通过结构化滤波器初始化保持等变性。

实验结果

研究问题

• RQ1 我们能否设计一种卷积网络，使其对超越方形或六边形格点离散对称性的连续旋转群具有等变性？
• RQ2 在将连续等变系统离散化以用于数字图像网格时，其理论近似误差是多少？
• RQ3 基于 PDO 的方法是否能在标准基准上实现比现有等变网络更高的参数效率和性能？
• RQ4 PDO-eConvs 在准确率和参数量方面与标准 ResNets 和 Wide ResNets 相比表现如何？

主要发现

• PDO-eConvs 在 CIFAR-100 上仅使用 460 万个参数即达到 3.50% 的测试误差，优于 Wide ResNet（3650 万个参数，误差 19.25%）。
• 在 CIFAR-10 上，PDO-eConvs 实现 3.68% 的误差，仅需 262 万个参数，优于 G-CNNs（4.94% 误差）和 ResNet-44（5.61% 误差）。
• 与 Wide ResNets 相比，PDO-eConvs 实现了 12.6% 的参数效率提升，同时在 CIFAR-10 和 CIFAR-100 上均保持更优的准确率。
• 在 CIFAR-10 上，PDO-eConvs 比 HexaConv 提高 3.26 个百分点（5.38% vs. 8.64%），且参数量相当，无需使用六边形图像表示。
• PDO-eConvs 的近似误差为二阶，证实了连续等变性与离散实现之间精确且可分析的权衡。
• 该方法实现了对 8 重旋转对称性（p8）的等变性，而此前基于离散格点的方法（如 G-CNNs 或 HexaConvs）无法支持此对称性。