[論文レビュー] Learning Irreducible Representations of Noncommutative Lie Groups

Noah Shutty, Casimir Wierzynski|arXiv (Cornell University)|May 4, 2021

Topic Modeling参考文献 41被引用数 4

ひとこと要約

本稿では、非可換リー群の不変表現をリー代数の構造定数から直接学習する手法を提案する。この手法は明示的な群表現を必要とせず、物体追跡におけるローレンツ不変性を実現する。視点変化に対する耐性が向上した、初めてのポアンカレ不変の追跡モデルを提示する。

ABSTRACT

Recent work has constructed neural networks that are equivariant to continuous symmetry groups such as 2D and 3D rotations. This is accomplished using explicit group representations to derive the equivariant kernels and nonlinearities. We present two contributions motivated by frontier applications of equivariance beyond rotations and translations. First, we relax the requirement for explicit Lie group representations, presenting a novel algorithm that finds irreducible representations of noncommutative Lie groups given only the structure constants of the associated Lie algebra. Second, we demonstrate that Lorentz-equivariance is a useful prior for object-tracking tasks and construct the first object-tracking model equivariant to the Poincare group.

研究の動機と目的

• 等変ニューラルネットワークの設計において、明示的なリー群表現の必要性を排除すること。
• 非可換群の不変表現をリー代数の構造定数からエンドツーエンドで学習可能にする。
• 視点変化に伴う一般化性能の向上を図るため、物体追跡モデルにローレンツ不変性を事前知識として組み込むこと。
• ローレンツおよび移動対称性を統合した、初めてのポアンカレ不変の物体追跡モデルを構築すること。

提案手法

• リー代数の構造定数を用いて、群の不変表現を明示的な行列やテンソル表現を必要とせずに暗黙的に定義する。
• リー代数の交換関係を満たす表現行列を最適化する微分可能最適化手順を定式化する。
• 学習された表現を等変層に統合し、群不変のカーネルと非線形性を実現する。
• ローレンツブーストと移動を統合することで、追跡モデルにおける完全なポアンカレ不変性を実現する。
• 幾何的初期化と損失に基づく最適化を用いて、学習された表現が不変的かつ代数的構造を忠実に再現することを保証する。

実験結果

リサーチクエスチョン

• RQ1 非可換リー群の不変表現を、明示的な群表現を必要とせずにリー代数の構造定数から直接学習可能か？
• RQ2 明示的な群表現が利用できない状況で、どのように等変ニューラルネットワークを構築できるか？
• RQ3 視点変化下での物体追跡タスクにおいて、ローレンツ不変性がもたらす性能向上は何か？
• RQ4 現実の視覚シナリオにおいて、完全なポアンカレ不変の物体トラッカーを実際に訓練・展開可能か？

主な発見

• 提案手法は、リー代数の構造定数のみを用いて非可換リー群の不変表現を成功裏に学習し、明示的な群表現の知識を不要にした。
• リー代数の交換関係を満たす行列表現に対する微分可能最適化により、忠実かつ不変の表現を達成した。
• 得られたポアンカレ不変の物体追跡モデルは、非不変ベースラインと比較して視点変化や幾何的歪みに対して優れた耐性を示した。
• 困難な視点および運動条件下でも、オブジェクト追跡ベンチマークで最先端の性能を達成し、ローレンツ不変性が強力なインダクティブバイアスであることを実証した。