[论文解读] A Wigner-Eckart Theorem for Group Equivariant Convolution Kernels

Leon Lang, Maurice Weiler|arXiv (Cornell University)|Oct 21, 2020

Seismic Imaging and Inversion Techniques参考文献 31被引用 21

一句话总结

本文利用广义的 Wigner-Eckart 定理，对群等变卷积神经网络（GCNNs）中的 G-可导向卷积核进行了通用表征。证明了 G-可导向核的空间完全由广义约化矩阵元、Clebsch-Gordan 系数以及在齐次空间上的调和基函数参数化，为任意紧致群 G 提供了完整解。

ABSTRACT

Group equivariant convolutional networks (GCNNs) endow classical convolutional networks with additional symmetry priors, which can lead to a considerably improved performance. Recent advances in the theoretical description of GCNNs revealed that such models can generally be understood as performing convolutions with G-steerable kernels, that is, kernels that satisfy an equivariance constraint themselves. While the G-steerability constraint has been derived, it has to date only been solved for specific use cases - a general characterization of G-steerable kernel spaces is still missing. This work provides such a characterization for the practically relevant case of G being any compact group. Our investigation is motivated by a striking analogy between the constraints underlying steerable kernels on the one hand and spherical tensor operators from quantum mechanics on the other hand. By generalizing the famous Wigner-Eckart theorem for spherical tensor operators, we prove that steerable kernel spaces are fully understood and parameterized in terms of 1) generalized reduced matrix elements, 2) Clebsch-Gordan coefficients, and 3) harmonic basis functions on homogeneous spaces.

研究动机与目标

• 为群等变卷积神经网络（GCNNs）中的 G-可导向核空间提供一个通用表征，此前该问题仅在特定情况下得到解决。
• 在表示理论的框架下，建立可导向核约束与量子力学中张量算符之间的正式类比。
• 将 Wigner-Eckart 定理推广至群等变深度学习的设定，实现核参数化的统一框架。
• 将寻找 G-可导向核的问题简化为计算 Clebsch-Gordan 系数、调和基函数以及自同态——这些表示理论中的关键组成部分。

提出的方法

• 将 G-可导向性约束形式化为表示论条件，类似于量子力学算符的变换规律。
• 以广义形式应用 Wigner-Eckart 定理，利用广义约化矩阵元将 G-可导向核空间分解为不可约分量。
• 利用 Clebsch-Gordan 系数耦合群 G 的不可约表示，从而构建在 G 作用下的不变核。
• 使用齐次空间 H/G 上的调和基函数对核空间进行参数化，以编码卷积的空间结构。
• 将一般解简化为三个基本要素：约化矩阵元（自由度）、Clebsch-Gordan 系数（耦合规则）以及调和基函数（空间模式）。
• 确立自同态在核空间中的作用，特别是在可约表示情况下，并通过表示理论证明其必要性。

实验结果

研究问题

• RQ1 如何对任意紧致群 G 的 G-可导向卷积核空间进行完全表征？
• RQ2 G-可导向核背后的通用数学结构是什么？它与量子力学张量算符有何关联？
• RQ3 Wigner-Eckart 定理能否被推广，以提供对 G-可导向核的完整参数化？
• RQ4 构建所有可能的 G-可导向核所需的最小要素是什么？它们与表示理论有何关系？
• RQ5 在 GCNN 背景下，该解从不可约表示推广到可约表示时，其形式如何变化？

主要发现

• 对于任意紧致群 G，G-可导向核的空间完全由广义约化矩阵元、Clebsch-Gordan 系数以及齐次空间上的调和基函数表征和参数化。
• 该解将 Wigner-Eckart 定理推广至群等变深度学习的设定，为 GCNN 中核设计提供了严格的理论基础。
• 参数化将寻找 G-可导向核的问题简化为计算表示理论中三个已知对象：约化矩阵元、Clebsch-Gordan 系数以及调和基函数。
• 该框架适用于所有紧致群，包括 O(3) 和 SU(N)，并能系统性地构造出超越特定情况的等变层。
• 在核空间中考虑自同态的必要性得到了形式化证明，尤其在处理可约表示时，确保了解的完备性。
• 该工作通过提供此前仅在特定情况下求解的通用解，解决了 GCNN 理论中长期存在的开放问题。