[論文レビュー] The geometry of rank decompositions of matrix multiplication II: $3 imes 3$ matrices

Grey Ballard, Christian Ikenmeyer+2 more|arXiv (Cornell University)|Jan 2, 2018

Tensor decomposition and applications参考文献 6被引用数 3

ひとこと要約

本稿では、$3\times3$ 行列乗算テンソル $M_{\langle 3\rangle}$ の新たなランク23の分解を、対称性が向上した形で提示する。特に、11個の立方体を含み、位数12の対称性群を持つ、画期的な分解を含む。著者らは、対称性群と分解の同値類を特定する手法を開発し、表現論と不変量論を活用して、高次元における構造的・対称的なランク分解の探索を支援する。

ABSTRACT

This is the second in a series of papers on rank decompositions of the matrix multiplication tensor. We present new rank $23$ decompositions for the $3 imes 3$ matrix multiplication tensor $M_{\langle 3 angle}$. All our decompositions have symmetry groups that include the standard cyclic permutation of factors but otherwise exhibit a range of behavior. One of them has 11 cubes as summands and admits an unexpected symmetry group of order 12. We establish basic information regarding symmetry groups of decompositions and outline two approaches for finding new rank decompositions of $M_{\langle n angle}$ for larger $n$.

研究の動機と目的

• 標準的な巡回的 $\mathbb{Z}_3$-対称性を満たす $3\times3$ 行列乗算テンソル $M_{\langle 3\rangle}$ の新たなランク23分解を発見すること。
• ランク分解の対称性群を特定する体系的な手法を開発し、二つの分解がいつ同値であるかを特定すること。
• $M_{\langle \mathbf{n} \rangle}$ のための新しいランク分解を、対称性をガイドとして表現論を用いて構築するフレームワークを確立すること。
• $n=3$ を特に対象として、テンソル空間 $(\mathbb{C}^{n^2})^{{\otimes}3}$ における $\mathbb{Z}_{n+1}$-不変部分空間の幾何学的・代数的構造を調査すること。
• ランクを最小化する際の対称性の役割を調査し、数値的手法が境界ランク解に収束するため、最適分解を見逃す理由を説明すること。

提案手法

• $M_{\langle 3\rangle}$ の分解空間を、$\mathbb{Z}_3$-不変成分に注目して代数幾何学と表現論を用いて分析する。
• 関連する線形作用素の固有値解析と特性多項式を用いて、分解族の区別と対称性の検出を行う。
• 不変量論を用いて、テンソル空間 $(\mathbb{C}^{n^2})^{{\otimes}3}$ を $\mathbb{Z}_{n+1} \times \mathbb{Z}_3$ の作用の下で既約表現に分解し、不変部分空間の次元を計算する。
• 探索空間を縮小し、対称的ランク分解への収束を導くために、対称性制約を課した数値的探索手法（例：交互最小二乗法）を実装する。
• 射影幾何学を用いて、分解を $\mathbb{P}^{n-1}$ 内の点の配置として解釈し、異なる分解の幾何的比較を可能にする。
• 対称的および反対称テンソルなどの対称的構成要素を組み合わせて明示的な分解を構築し、トレース恒等式を用いてその正しさを検証する。

実験結果

リサーチクエスチョン

• RQ1 ランク23の $M_{\langle 3\rangle}$ 分解の対称性群は何か？ そして、標準的な巡回的 $\mathbb{Z}_3$-対称性とはどのように関係しているか？
• RQ2 これまでに知られていたものよりも大きな対称性群に関して不変である、新たなランク23の $M_{\langle 3\rangle}$ 分解を構成できるか？
• RQ3 座標変換の差異のみを示す二つのランク分解が、代数的に同値であるかどうかをどのように特定できるか？
• RQ4 $(\mathbb{C}^{n^2})^{{\otimes}3}$ 内の $\mathbb{Z}_{n+1} \times \mathbb{Z}_3$-不変テンソルの空間の構造は何か？ そして、$n$ に応じてどのように変化するか？
• RQ5 なぜテンソル分解のための数値的手法は、しばしばランク22の境界解に収束するのか？ そして、対称性がこの問題を克服するのをどのように支援できるか？

主な発見

• 著者らは、$M_{\langle 3\rangle}$ の新たなランク23分解を3つ提示する。これらはすべて、標準的な巡回的 $\mathbb{Z}_3$-対称性を満たしており、先行研究における空白を埋める。
• 1つの分解には11個の立方体項が含まれ、位数12の対称性群を有する。これは、従来の対称的分解よりも予期せぬ顕著な向上である。
• $ (\mathbb{C}^9)^{{\otimes}3} $ 内の $\mathbb{Z}_4 \times \mathbb{Z}_3$-不変テンソルの空間の次元は10であり、$n=3$ の場合の $\mathbb{Z}_4 \times \mathbb{Z}_3$-不変部分空間の次元は63である。
• $n=4$ の場合、$(\mathbb{C}^{16})^{{\otimes}3}$ 内の $\mathbb{Z}_5 \times \mathbb{Z}_3$-不変部分空間の次元は276であり、全空間の次元4096に比べて顕著に小さい。
• 関連行列の特性多項式を用いて、3つの異なる分解族を同定した。それぞれの固有値タイプ（対称的、巡回的、三重固有値）の数は、6、4、1である。
• 本研究は、対称性がテンソル分解において強力なガイドであることを確認した。$\mathbb{Z}_3$-不変性を課すことで、探索空間が縮小され、最適または近似的に最適な分解が得やすくなる。