[論文レビュー] A New General-Purpose Method to Multiply 3x3 Matrices Using Only 23 Multiplications

Nicolas T. Courtois, Gregory V. Bard+1 more|arXiv (Cornell University)|Aug 14, 2011

Polynomial and algebraic computation参考文献 16被引用数 14

ひとこと要約

この論文は、3×3行列の乗算を23個のスカラ乗算のみで行う一般化された新手法を提示している。これは、Brent方程式をSAT問題に変換し、500個のSATソルバーのパフォーマンスを組み合わせて解いた結果得られたものである。著者らは、1976年にLadermanが提唱した元の方法や、これまでに知られていたすべての解とは明確に異なる非可換な解を発見した。この発見により、既知の解空間が著しく拡張され、今後22乗算の解が存在する可能性が高まった。

ABSTRACT

One of the most famous conjectures in computer algebra is that matrix multiplication might be feasible in not much more than quadratic time. The best known exponent is 2.376, due to Coppersmith and Winograd. Many attempts to solve this problems in the literature work by solving, fixed-size problems and then apply the solution recursively. This leads to pure combinatorial optimisation problems with fixed size. These problems are unlikely to be solvable in polynomial time. In 1976 Laderman published a method to multiply two 3x3 matrices using only 23 multiplications. This result is non-commutative, and therefore can be applied recursively to smaller sub-matrices. In 35 years nobody was able to do better and it remains an open problem if this can be done with 22 multiplications. We proceed by solving the so called Brent equations [7]. We have implemented a method to converting this very hard problem to a SAT problem, and we have attempted to solve it, with our portfolio of some 500 SAT solvers. With this new method we were able to produce new solutions to the Laderman's problem. We present a new fully general non-commutative solution with 23 multiplications and show that this solution is new and is NOT an equivalent variant of the Laderman's original solution. This result demonstrates that the space of solutions to Laderman's problem is larger than expected, and therefore it becomes now more plausible that a solution with 22 multiplications exists. If it exists, we might be able to find it soon just by running our algorithms longer, or due to further improvements in the SAT solver algorithms.

研究の動機と目的

• 1976年のLadermanの方法に比べて、23個のスカラ乗算のみを用いて3×3行列乗算の新しい非可換解を発見すること。
• 23乗算問題の既知の解空間を拡大することで、22乗算解が存在するかどうかを検討すること。
• 行列乗算アルゴリズムを支配するBrent方程式の高次元な連立方程式系を解くために、新規のSATベースのアプローチを開発・適用すること。
• 新しい解が、Laderman や Johnson-McLoughlin の家族に属する既知の解と構造的・代数的に等価でないことを特定すること。
• 3×3行列乗算における23乗算解の解空間が、従来の予想よりもはるかに広いことを示し、22乗算解の発見可能性を高めること。

提案手法

• 著者らは、3×3行列乗算の729個の3次方程式（Brent方程式）の連立方程式系を、ブール充足可能性問題（SAT）に変換した。
• まず、2を法としてSAT問題を解き、その後4を法として解を拡張することで、一般に任意の環上で有効な解が得られることが多かった。
• 約500個のSATソルバーとその変種を用いたパフォーマンスの組み合わせを用いて解の探索を実施し、符号化プロセスの広範なチューニングと最適化を実施した。
• 解の同値性を調査するため、インデックスの置換、A, B, C行列の巡回的シフト、転置、スケーリング、可逆行列によるサンドイッチ変換といった一連の変換を体系的に行なった。
• A, B, C係数行列におけるランク3行列の数とその分布というランクに基づく不変量を用いて、解の検証と比較を実施した。
• 計算代数と自動推論の両方を活用して、膨大な組み合わせ的空間にわたる潜在的な行列乗算アルゴリズムを探索した。

実験結果

リサーチクエスチョン

• RQ1 23個の乗算を用いて、Ladermanの元の解とは構造的に異なる非可換な3×3行列乗算解を発見できるか？
• RQ2 3×3行列乗算における23乗算解の解空間は、従来の予想よりも著しく広く、とりわけ同値でないアルゴリズム的構造の観点からそうであると示せるか？
• RQ3 SATベースの変換および解法パイプラインは、固定サイズの行列乗算問題におけるBrent方程式に対して、信頼性高く有効な一般解を生成できるか？
• RQ4 Ladermanの解とは異なり、A係数行列にランク3行列が2つだけ存在するという新しい解の存在は、22乗算解の探索に役立つ根本的に異なる代数的構造を示唆するか？
• RQ5 現代のSATソルバーとアルゴリズム的符号化手法は、行列乗算のテンソルランク最小化といった、計算代数分野の難解な組み合わせ的問題をどれほど効果的に解けるか？

主な発見

• 著者らは、23個のスカラ乗算のみを用いて、Ladermanの元の方法とは等価でない新しい非可換3×3行列乗算アルゴリズムを成功裏に発見した。
• 新しい解では、A係数行列に正確に2つのランク3行列が存在するが、Ladermanの解では6つ存在するため、構造的非同値性が証明された。
• JohnsonとMcLoughlinが事前に発見した無限個のペアワイズ非同値解のいずれとも等価でない。彼らの解は最大で1つのランク3行列しか持たないため。
• SATベースのアプローチは、1台のCPUを数日間使用するだけで有効な解を生成でき、この計算的手法が複雑な代数的問題を解く上で実現可能であることを示した。
• この発見により、23乗算3×3行列乗算の解空間が従来の予想よりもはるかに広いことが確認され、22乗算解が存在する可能性が高まった。
• 今後、より長い実行時間や改善されたSATソルバーを用いたさらなる探索により、22乗算アルゴリズムが間もなく得られる可能性が示唆され、高速行列乗算分野の長年の予想が前進する。