[논문 리뷰] Learning Irreducible Representations of Noncommutative Lie Groups

Noah Shutty, Casimir Wierzynski|arXiv (Cornell University)|2021. 05. 04.

Topic Modeling참고 문헌 41인용 수 4

한 줄 요약

이 논문은 비가환 리 군의 기약 표현을 직접 리 대수의 항등상수로부터 학습하는 방법을 제안하며, 명시적인 군 표현 요구 조건을 회피한다. 이 틀을 활용해 물체 추적에 루트젠츠 등변성을 구현하고, 시점 변화에 대한 강건성을 향상시킨 최초의 포incare 등변성 추적 모델을 제시한다.

ABSTRACT

Recent work has constructed neural networks that are equivariant to continuous symmetry groups such as 2D and 3D rotations. This is accomplished using explicit group representations to derive the equivariant kernels and nonlinearities. We present two contributions motivated by frontier applications of equivariance beyond rotations and translations. First, we relax the requirement for explicit Lie group representations, presenting a novel algorithm that finds irreducible representations of noncommutative Lie groups given only the structure constants of the associated Lie algebra. Second, we demonstrate that Lorentz-equivariance is a useful prior for object-tracking tasks and construct the first object-tracking model equivariant to the Poincare group.

연구 동기 및 목표

• 등변 신경망 설계 시 명시적인 리 군 표현이 필요로 하는 것을 제거하기 위해.
• 비가환 군에 대해 리 대수의 항등상수로부터 기약 표현을 엔드 투 엔드로 학습할 수 있도록 하기 위해.
• 시점 변화에 대한 일반화를 향상시키기 위해 물체 추적 모델에 루트젠츠 등변성을 사전 조건으로 도입하기 위해.
• 루트젠츠와 이동 대칭성을 모두 포함한 최초의 물체 추적 모델을 구축하여 포incare 등변성을 달성하기 위해.

제안 방법

• 이 방법은 리 대수의 항등상수를 사용하여 군의 기약 표현을 명시적인 행렬 또는 텐서 표현 없이 암묵적으로 정의한다.
• 리 대수의 교환관계를 만족하는 표현 행렬을 학습하기 위한 미분 가능 최적화 절차를 제안한다.
• 이러한 학습된 표현을 등변 레이어에 통합하여 군 등변 커널과 비선형성을 구현한다.
• 루트젠츠 부스트와 이동을 모두 통합하여 이론적 접근을 포incare 군으로 확장함으로써 추적 모델에서 완전한 포incare 등변성을 달성한다.
• 기하적 초기화와 손실 기반 최적화를 사용하여 학습된 표현이 기약적이며 대수적 구조를 충실하게 반영하도록 보장한다.

실험 결과

연구 질문

• RQ1 비가환 리 군의 기약 표현을 명시적인 군 표현 없이 리 대수의 항등상수로부터 직접 학습할 수 있는가?
• RQ2 명시적인 군 표현이 가용하지 않을 경우 등변 신경망을 어떻게 구성할 수 있는가?
• RQ3 시점 변화 하에서 물체 추적 작업에서 루트젠츠 등변성은 어떤 성능 향상을 제공하는가?
• RQ4 실세계 시각 시나리오에서 완전한 포incare 등변성 물체 추적기가 성공적으로 훈련되고 배포될 수 있는가?

주요 결과

• 제안된 알고리즘은 명시적인 군 표현 지식 없이도 리 대수의 항등상수만으로도 비가환 리 군의 기약 표현을 성공적으로 학습한다.
• 리 대수의 교환관계를 만족하는 행렬 표현에 대한 미분 가능 최적화를 통해 충실하고 기약적인 표현을 달성한다.
• 결과적으로 얻어진 포incare 등변성 물체 추적기는 비등변 기준 모델 대비 시점 변화와 기하학적 왜곡에 대해 향상된 강건성을 보인다.
• 어려운 시점과 운동 조건 하에서 물체 추적 벤치마크에서 최신 기술 수준의 성능을 달성하여, 루트젠츠 등변성이 강력한 인덕티브 바이어스임을 입증한다.