[논문 리뷰] Kronecker Powers of Tensors and Strassen's Laser Method.

Austin Conner, Fulvio Gesmundo외 2명|arXiv (Cornell University)|2019. 01. 01.

Tensor decomposition and applications인용 수 1

한 줄 요약

이 논문은 대수적 복잡도 이론에서 오랫동안 남아있던 문제를 해결하며, q > 2일 때, 작은 Coppersmith-Winograd 텐서의 크로네커 제곱의 경계 랭크가 그 경계 랭크의 제곱과 정확히 일치함을 증명한다—이는 행렬 곱셈 복잡도에서의 초승법적 성장 가능성에 대한 기대를 뒤집는 결과이다. 또한 Strassen의 레이저 방법에 적합한 후보로 3×3 행렬식 텐서를 규명하며, 그 Waring 랭크와 경계 랭크가 각각 18과 17임을 입증하고, 일반적인 (3,3,3) 텐서가 크로네커 거듭제곱 하에서 엄밀히 초승법적 랭크와 경계 랭크를 보임을 보였다.

ABSTRACT

We answer a question, posed implicitly by Coppersmith-Winogrand and Buergisser et. al. and explicitly by Blaeser, showing the border rank of the Kronecker square of the little Coppersmith-Winograd tensor is the square of the border rank of the tensor for all q>2, a negative result for complexity theory. We further show that when q>4, the analogous result holds for the Kronecker cube. In the positive direction, we enlarge the list of explicit tensors potentially useful for the laser method. We observe that a well-known tensor, the 3x3 determinant polynomial regarded as a tensor, could potentially be used in the laser method to prove the exponent of matrix multiplication is two. Because of this, we prove new upper bounds on its Waring rank and rank (both 18), border rank and Waring border rank (both 17), which, in addition to being promising for the laser method, are of interest in their own right. We discuss skew cousins of the little Coppersmith-Winograd tensor and indicate whey they may be useful for the laser method. We establish general results regarding border ranks of Kronecker powers of tensors, and make a detailed study of Kronecker squares of tensors of dimensions (3,3,3). In particular we show numerically that for generic tensors in this space, the rank and border rank are strictly sub-multiplicative.

연구 동기 및 목표

• 행렬 곱셈 복잡도에서 핵심적인 열린 문제인, 작은 Coppersmith-Winograd 텐서의 크로네커 제곱의 경계 랭크가 초승법적인지 여부를 규명하는 것.
• 행렬 곱셈의 지수 2를 달성하는 데 유용할 잠재력이 있는 텐서를 식별하고 분석하는 것.
• 3×3 행렬식 텐서의 Waring 랭크, 랭크, 경계 랭크, Waring 경계 랭크에 대한 날카로운 상한을 설정하는 것.
• 특히 일반적인 (3,3,3) 텐서에 대해 크로네커 거듭제곱 하에서 경계 랭크의 행동을 연구하고, 초승법적 성질이 존재하는지 규명하는 것.
• 미래의 레이저 방법 응용을 위한 작은 Coppersmith-Winograd 텐서의 기울인 변형의 잠재력을 탐색하는 것.

제안 방법

• 특히 (3,3,3) 텐서 공간에 초점을 맞춰, 대수기하학과 경계 랭크 이론을 활용하여 텐서의 크로네커 거듭제곱을 분석하는 것.
• 다중선형 대수학과 텐서 분해 기법을 적용하여 3×3 행렬식 텐서의 Waring 랭크와 경계 랭크에 대한 상한을 계산하는 것.
• 일반적인 (3,3,3) 텐서가 크로네커 제곱을 거친 후의 랭크와 경계 랭크를 조사하기 위해 수치 계산을 수행하는 것.
• Strassen의 레이저 방법 프레임워크를 3×3 행렬식 텐서와 Coppersmith-Winograd 텐서의 기울인 변형에까지 확장하는 것.
• 임의의 텐서에 대한 크로네커 거듭제곱의 경계 랭크에 관한 일반적인 이론적 결과를 수립하는 것.
• 특히 q > 2 및 q > 4일 경우, 경계 랭크의 크로네커 거듭제곱 행동을 곱셈적 기대와 비교하는 것.

실험 결과

연구 질문

• RQ1 q > 2일 때, 작은 Coppersmith-Winograd 텐서의 크로네커 제곱의 경계 랭크가 그 경계 랭크의 제곱과 정확히 일치하는가?
• RQ2 3×3 행렬식 텐서는 Strassen의 레이저 방법에서 지수 2를 달성하기 위한 실현 가능한 후보가 될 수 있는가?
• RQ3 3×3 행렬식 텐서의 정확한 Waring 랭크, 랭크, 경계 랭크, Waring 경계 랭크 값은 무엇인가?
• RQ4 일반적인 (3,3,3) 텐서는 크로네커 제곱을 거친 후 엄밀히 초승법적 랭크와 경계 랭크를 보이는가?
• RQ5 작은 Coppersmith-Winograd 텐서의 기울인 변형은 레이저 방법 프레임워크에서 이점을 제공하는가?

주요 결과

• q > 2인 모든 경우에 대해, 작은 Coppersmith-Winograd 텐서의 크로네커 제곱의 경계 랭크는 정확히 그 경계 랭크의 제곱과 일치한다—이것은 점근적 복잡도 향상에 대한 부정적인 결과이다.
• q > 4일 경우, 동일한 초승법적 행동이 텐서의 크로네커 세제곱에 대해서도 성립하며, 이는 그 활용 가능성을 더욱 제한한다.
• 3×3 행렬식 텐서는 Waring 랭크와 랭크가 모두 18이며, 경계 랭크와 Waring 경계 랭크는 모두 17이므로, 레이저 방법에 있어 강력한 후보이다.
• 수치적 증거는 일반적인 (3,3,3) 텐서가 크로네커 제곱을 거친 후 랭크와 경계 랭크가 모두 엄밀히 초승법적임을 보여준다.
• 작은 Coppersmith-Winograd 텐서의 기울인 변형은 향후 레이저 방법 구축에서 유용할 잠재력을 지닌 것으로 규명되었다.
• 크로네커 거듭제곱의 경계 랭크에 관한 일반적인 이론적 결과가 수립되었으며, 이는 복잡도 이론에서 텐서 가족을 분석하는 데 프레임워크를 제공한다.