[论文解读] Unified Fourier-based Kernel and Nonlinearity Design for Equivariant Networks on Homogeneous Spaces

Yinshuang Xu, Jiahui Lei+2 more|arXiv (Cornell University)|Jun 16, 2022

Advanced Neuroimaging Techniques and Applications被引用 4

一句话总结

本论文提出了一种统一的基于傅里叶的框架，用于在齐次空间上设计群等变卷积网络，利用当稳定子子群为紧致李群时傅里叶系数中的谱稀疏性。该方法通过将特征场提升到群上，应用逐元素非线性，再投影回原空间，提出了一种新颖的等变非线性激活，实现了在 SO(3) 和 SE(3) 上的球面对向场回归、点云分类和分子补全任务中的最先进性能。

ABSTRACT

We introduce a unified framework for group equivariant networks on homogeneous spaces derived from a Fourier perspective. We consider tensor-valued feature fields, before and after a convolutional layer. We present a unified derivation of kernels via the Fourier domain by leveraging the sparsity of Fourier coefficients of the lifted feature fields. The sparsity emerges when the stabilizer subgroup of the homogeneous space is a compact Lie group. We further introduce a nonlinear activation, via an elementwise nonlinearity on the regular representation after lifting and projecting back to the field through an equivariant convolution. We show that other methods treating features as the Fourier coefficients in the stabilizer subgroup are special cases of our activation. Experiments on $SO(3)$ and $SE(3)$ show state-of-the-art performance in spherical vector field regression, point cloud classification, and molecular completion.

研究动机与目标

• 通过傅里叶域视角，统一群卷积网络在齐次空间上的等变核与非线性设计。
• 当稳定子子群为紧致李群时，利用提升特征场的傅里叶系数中的谱稀疏性，实现高效的核设计。
• 通过将场提升到群上，应用逐元素非线性，并通过卷积投影回原空间，开发一种通用的等变非线性激活函数。
• 在多个等变性基准任务中展示最先进性能，包括 3D 形状分类和分子结构补全。
• 在单一基于傅里叶的框架下统一并推广现有方法，如基于范数和 Clebsch-Gordan 的非线性激活。

提出的方法

• 将张量值特征场从齐次空间提升至作用群上的 Mackey 函数，利用群结构实现等变性。
• 利用 Mackey 函数的傅里叶变换，在稳定子为紧致李群时揭示傅里叶域中的块稀疏模式。
• 在傅里叶域中将等变卷积核设计为稀疏矩阵，避免显式代数或数值约束。
• 通过将场提升到群上，应用逐元素非线性（如 ReLU），再通过等变卷积投影回原空间，实现非线性激活。
• 通过使用群不变投影和傅里叶域中的正则表示，从构造上保证等变性。
• 将该框架应用于 SO(3) 和 SE(3)，使用带宽和投影方案以保持计算效率和等变性。

实验结果

研究问题

• RQ1 齐次空间上提升特征场的傅里叶域谱稀疏性是否可用于统一等变网络中核与非线性设计？
• RQ2 是否存在一种通用的、基于傅里叶的框架，能够涵盖如基于范数或 Clebsch-Gordan 的现有非线性方法？
• RQ3 通过傅里叶稀疏性实现的核设计是否能在需要 SO(3) 和 SE(3) 等变性的任务中达到最先进性能？
• RQ4 在向量场和点云任务中，所提出的非线性与现有方法相比，在表达能力和性能方面表现如何？
• RQ5 当稳定子为紧致李群时，该框架在不同齐次空间和稳定子群上的泛化程度如何？

主要发现

• 当稳定子子群为紧致李群时，群上 Mackey 函数的傅里叶系数呈块稀疏结构，从而实现高效且统一的核设计。
• 所提出的非线性激活泛化了先前方法：Poulenard & Guibas (2021) 中的非线性是所提提升-投影框架的一个特例。
• 在 ModelNet40 数据集上，该方法在 SO(3) 增广设置下达到 89.7% 的准确率，与最先进模型（包括 TFN[mlp]-P 和 VN-DGCNN）相当或更优。
• 在分子结构补全任务中，模型在 19 个原子分子上达到 98.0% 的准确率和 0.06Å 的 MAE，优于 TFN（93.9% 准确率，0.14Å MAE）。
• 该框架在球面对向场回归和 3D 点云分类任务中实现了最先进性能，展现出强大的跨任务泛化能力。
• 通过所提非线性激活，方法在保持等变性的同时实现了更高的表达能力，该结论在消融实验和基准测试中得到验证。