[论文解读] Steerable Partial Differential Operators for Equivariant Neural Networks

Erik Jenner, Maurice Weiler|arXiv (Cornell University)|Jun 18, 2021

Model Reduction and Neural Networks参考文献 27被引用 5

一句话总结

本文提出可旋转的偏微分算子（PDOs）作为神经网络中的等变层，实现对任意群的精确对称性保持。通过推导G-可旋转性约束并求解O(2)等关键群的情况，作者在基于分布的框架下统一了卷积与微分算子，展示了在旋转等变任务中的最先进性能，实现了高效的离散化，并将代码开源集成至E2CNN。

ABSTRACT

Recent work in equivariant deep learning bears strong similarities to physics. Fields over a base space are fundamental entities in both subjects, as are equivariant maps between these fields. In deep learning, however, these maps are usually defined by convolutions with a kernel, whereas they are partial differential operators (PDOs) in physics. Developing the theory of equivariant PDOs in the context of deep learning could bring these subjects even closer together and lead to a stronger flow of ideas. In this work, we derive a $G$-steerability constraint that completely characterizes when a PDO between feature vector fields is equivariant, for arbitrary symmetry groups $G$. We then fully solve this constraint for several important groups. We use our solutions as equivariant drop-in replacements for convolutional layers and benchmark them in that role. Finally, we develop a framework for equivariant maps based on Schwartz distributions that unifies classical convolutions and differential operators and gives insight about the relation between the two.

研究动机与目标

• 开发一种适用于深度学习中任意群G下对称性保持的等变偏微分算子（PDO）的一般理论。
• 通过施瓦茨分布框架，将卷积核与微分算子统一为平移等变、线性、连续映射的单一框架。
• 提供一种实用方法，用于计算重要对称性群（包括O(2)的子群）的完整等变PDO基。
• 在多个任务上对比可旋转PDO与标准可旋转CNN的性能，证明其有效性与高效性。
• 实现并发布可旋转PDO作为E2CNN库的扩展，推动其在等变深度学习中的广泛应用。

提出的方法

• 推导出完全刻画在给定群G下，特征向量场之间PDO等变性的G-可旋转性约束。
• 显式求解关键群（包括C_n和O(2)）的G-可旋转性约束，获得等变PDO的闭式表达式。
• 使用高斯和RBF-FD方法将PDO离散化为模板，以实现在神经网络中的数值实现。
• 构建基于分布的框架，将卷积与微分算子统一为等变映射的特例。
• 在代码中实现该理论，并将其集成至E2CNN库中，支持在同一模型中联合使用可旋转核与PDO。
• 使用标准化架构与超参数，在MNIST-rot、STL-10和流体流动预测任务上进行性能基准测试。

实验结果

研究问题

• RQ1 偏微分算子需满足何种条件，才能在给定对称性群G下保持等变性？
• RQ2 如何系统化地参数化并计算常见对称性群的G-等变PDO空间？
• RQ3 在准确率与参数效率方面，可旋转PDO相较于标准可旋转CNN能提升多少？
• RQ4 不同离散化方案（如高斯法、RBF-FD）如何影响可旋转PDO的性能与稳定性？
• RQ5 是否存在单一数学框架，可将卷积核与微分算子统一于相同的等变性原理之下？

主要发现

• 作者推导出完整的G-可旋转性约束，完全刻画了任意对称性群下特征场之间所有平移等变PDO。
• 显式计算了O(2)所有子群的等变PDO基，使其实用于2D等变网络成为可能。
• 可旋转PDO在MNIST-rot任务上达到最先进性能，其准确率与标准可旋转CNN相当或更优，且参数量相当。
• RBF-FD离散化方法相比基于高斯的离散化，能生成更稳定、更精确的模板，尤其适用于高阶算子。
• 基于分布的框架将卷积与微分算子统一为特例，证明其可捕获所有特征场之间的平移等变、线性、连续映射。
• 可旋转PDO的实现已合并至E2CNN库中，支持与现有可旋转CNN及混合架构无缝集成。