[论文解读] Learning Irreducible Representations of Noncommutative Lie Groups

Noah Shutty, Casimir Wierzynski|arXiv (Cornell University)|May 4, 2021

Topic Modeling参考文献 41被引用 4

一句话总结

本文提出一种方法，可直接从李代数结构常数学习非交换李群的不可约表示，无需显式使用群表示。该方法进一步应用于实现物体追踪中的洛伦兹协变性，提出首个具备 Poincaré 协变性的追踪模型，显著提升了对视角变化的鲁棒性。

ABSTRACT

Recent work has constructed neural networks that are equivariant to continuous symmetry groups such as 2D and 3D rotations. This is accomplished using explicit group representations to derive the equivariant kernels and nonlinearities. We present two contributions motivated by frontier applications of equivariance beyond rotations and translations. First, we relax the requirement for explicit Lie group representations, presenting a novel algorithm that finds irreducible representations of noncommutative Lie groups given only the structure constants of the associated Lie algebra. Second, we demonstrate that Lorentz-equivariance is a useful prior for object-tracking tasks and construct the first object-tracking model equivariant to the Poincare group.

研究动机与目标

• 消除在设计协变神经网络时对显式李群表示的需求。
• 实现从非交换群的李代数结构常数端到端学习不可约表示。
• 在物体追踪模型中引入洛伦兹协变性作为先验，以提升在视角变化下的泛化能力。
• 构建首个对 Poincaré 群协变的物体追踪模型，结合洛伦兹变换与平移对称性。

提出的方法

• 该方法利用李代数的结构常数隐式定义群的不可约表示，无需显式矩阵或张量表示。
• 提出一种可微分优化过程，学习满足李代数对易关系的表示矩阵。
• 将这些学习到的表示整合到具有群协变核与非线性激活的协变层中。
• 通过同时引入洛伦兹提升和平移，将该方法扩展至 Poincaré 群，实现在追踪模型中的完整 Poincaré 协变性。
• 模型采用几何初始化与基于损失的优化，确保学习到的表示不可约且忠实于代数结构。

实验结果

研究问题

• RQ1 是否可以仅从李代数结构常数直接学习非交换李群的不可约表示，而无需显式群表示？
• RQ2 当缺乏显式群表示时，如何构建协变神经网络？
• RQ3 在视角变化下，洛伦兹协变性在物体追踪任务中能带来多大的性能提升？
• RQ4 能否在真实视觉场景中成功训练并部署一个完全 Poincaré 协变的物体追踪器？

主要发现

• 所提出的算法仅使用李代数结构常数，成功学习了非交换李群的不可约表示，完全消除了对显式群表示知识的依赖。
• 通过在满足李代数对易关系的矩阵表示上进行可微分优化，实现了忠实且不可约的表示。
• 所得到的 Poincaré 协变物体追踪器在视角变化和几何畸变下表现出比非协变基线模型更强的鲁棒性。
• 该模型在具有挑战性的视角与运动条件下的物体追踪基准上实现了最先进性能，验证了洛伦兹协变性作为强归纳偏置的有效性。