[논문 리뷰] The geometry of rank decompositions of matrix multiplication II: $3 imes 3$ matrices

Grey Ballard, Christian Ikenmeyer외 2명|arXiv (Cornell University)|2018. 01. 02.

Tensor decomposition and applications참고 문헌 6인용 수 3

한 줄 요약

이 논문은 $3\times3$ 행렬 곱셈 텐서 $M_{\langle 3\rangle}$의 새로운 질서 23 분해를 제안하며, 대칭성이 향상된 바탕으로, 11개의 입방체를 포함하고 대칭군의 순서가 12인 새로운 분해를 포함한다. 저자들은 대칭군과 분해의 동치류를 식별하기 위한 방법을 개발하였으며, 표현 이론과 불변량 이론을 활용하여 고차원에서의 구조적이고 대칭적인 질서 분해를 탐색하는 데에 기여한다.

ABSTRACT

This is the second in a series of papers on rank decompositions of the matrix multiplication tensor. We present new rank $23$ decompositions for the $3 imes 3$ matrix multiplication tensor $M_{\langle 3 angle}$. All our decompositions have symmetry groups that include the standard cyclic permutation of factors but otherwise exhibit a range of behavior. One of them has 11 cubes as summands and admits an unexpected symmetry group of order 12. We establish basic information regarding symmetry groups of decompositions and outline two approaches for finding new rank decompositions of $M_{\langle n angle}$ for larger $n$.

연구 동기 및 목표

• 표준 순환 $\mathbb{Z}_3$-대칭을 존중하는 $3\times3$ 행렬 곱셈 텐서 $M_{\langle 3\rangle}$의 새로운 질서 23 분해를 발견하는 것.
• 질서 분해의 대칭군을 식별하고, 두 분해가 동치인지를 판단하는 체계적인 기법을 개발하는 것.
• 표현 이론을 활용하여 $M_{\langle \mathbf{n} \rangle}$의 새로운 질서 분해를 구성하는 프레임워크를 수립하고, 대칭성에 따라 이끌리는 것.
• 텐서 공간 $(\mathbb{C}^{n^2})^{{\otimes}3}$에서 $\mathbb{Z}_{n+1}$-불변 부분공간의 기하학적 및 대수적 구조를 분석하고, 특히 $n=3$의 경우를 중심으로 탐구하는 것.
• 대칭성이 텐서 질서를 최소화하는 데서 수행하는 역할을 조사하고, 수치적 방법이 경계 질서 해에 수렴함으로써 최적의 분해를 찾지 못하는 이유를 설명하는 것.

제안 방법

• 분해 공간의 분석을 위해代수기하학과 표현 이론을 활용하여 $M_{\langle 3\rangle}$의 $\mathbb{Z}_3$-불변 성분에 집중한다.
• 관련 선형 연산자의 고유값 분석과 특성다항식을 사용하여 분해 가닥 간의 구분과 대칭성 탐지.
• 불변량 이론을 적용하여 텐서 공간 $(\mathbb{C}^{n^2})^{{\otimes}3}$을 $\mathbb{Z}_{n+1} \times \mathbb{Z}_3$ 작용에 대한 기약 표현으로 분해하고, 불변 부분공간의 차원을 계산한다.
• 검색 공간을 줄이고 대칭적 질서 분해로 수렴하도록 대칭 제약 조건을 적용한 수치적 탐색 방법(예: 교차 최소제곱)을 구현한다.
• 프로젝티브 기하학을 활용하여 분해를 $\mathbb{P}^{n-1}$ 상의 점들의 구성으로 해석함으로써, 서로 다른 분해 간의 기하학적 비교를 가능하게 한다.
• 대칭 빌딩 블록(예: 대칭 및 반대칭 텐서)을 조합하여 명시적 분해를 구성하고, 트레이스 항등식을 통해 그 정확성을 검증한다.

실험 결과

연구 질문

• RQ1 질서 23 분해의 대칭군은 무엇이며, 표준 순환 $\mathbb{Z}_3$-대칭과 어떻게 관련되어 있는가?
• RQ2 이전에 알려진 것보다 더 큰 대칭군에 대해 불변인 새로운 질서 23 분해를 $M_{\langle 3\rangle}$에 대해 구성할 수 있는가?
• RQ3 특히 좌표 변환에 의해만 다를 경우, 두 질서 분해의 대칭성은 어떻게 대수적으로 판단할 수 있는가?
• RQ4 $(\mathbb{C}^{n^2})^{{\otimes}3}$에서 $\mathbb{Z}_{n+1} \times \mathbb{Z}_3$-불변 텐서의 구조는 무엇이며, 이는 $n$에 따라 어떻게 변화하는가?
• RQ5 왜 수치적 방법은 텐서 분해에서 종종 경계 질서 22 해에 수렴하는가? 대칭성이 이를 극복하는 데 어떻게 기여할 수 있는가?

주요 결과

• 저자들은 $M_{\langle 3\rangle}$에 대해 세 가지의 새로운 질서 23 분해를 제시하였으며, 모두 표준 순환 $\mathbb{Z}_3$-대칭을 유지한다. 이는 이전 연구의 격차를 메우는 바이다.
• 한 분해는 11개의 입방체를 포함하고 있으며, 대칭군의 순서가 12로, 이전에 알려진 대칭 분해보다 놀라운 향상이다.
• $ (\mathbb{C}^9)^{{\otimes}3} $에서 $\mathbb{Z}_4 \times \mathbb{Z}_3$-불변 텐서의 공간은 차원 10을 가지며, $n=3$의 경우 $\mathbb{Z}_4 \times \mathbb{Z}_3$-불변 부분공간은 차원 63을 가진다.
• $n=4$의 경우, $(\mathbb{C}^{16})^{{\otimes}3}$에서 $\mathbb{Z}_5 \times \mathbb{Z}_3$-불변 부분공간의 차원은 276이며, 전체 공간의 차원 4096에 비해 상당히 작다.
• 관련 행렬의 특성다항식을 통해 세 가지의 분명한 분해 가닥을 식별하였으며, 대칭, 순환, 삼중 고유값 유형에 대해 각각 6, 4, 1개의 수를 기록하였다.
• 연구는 대칭성이 텐서 분해에서 강력한 안내자임을 확인한다: $\mathbb{Z}_3$-불변 조건을 적용하면 검색 공간이 줄어들고, 최적 또는 근접 최적의 분해를 찾을 확률이 증가한다.