[論文レビュー] A Fast Search Algorithm for Triple Product Property Triples and an Application for 5x5 Matrix Multiplication

Sarah B. Hart, Ivo Hedtke+2 more|arXiv (Cornell University)|May 1, 2013

Complexity and Algorithms in Graphs参考文献 12被引用数 5

ひとこと要約

本稿では、有限群における⟨m,m,m⟩三重積性質（TPP）三つ組のための新規で高度に最適化された探索アルゴリズムを提示しており、従来手法と比較して40〜194倍の高速化を達成している。このアルゴリズムを用いて、5×5行列乗算を100スカラー乗算未満で実現できる群は存在しないことが証明された——これは1987年にマカラフが示した上界と一致しており、群的アプローチによる高速行列乗算分野における長年の未解決問題を解消した。

ABSTRACT

We present a new fast search algorithm for Triple Product Property (TPP) triples as defined by Cohn and Umans in 2003. The new algorithm achieves a speed-up factor of 40 up to 194 in comparison to the best known search algorithm. With a parallelized version of the new algorithm we are able to search for TPP triples in groups up to order 55. As an application we identify a list of groups that would realize 5x5 matrix multiplication with under 100 resp. 125 scalar multiplications (the best known upper bound by Makarov 1987 resp. the trivial upper bound) if they contain a <5,5,5> TPP triple. With our new algorithm we show that no group can realize 5x5 matrix multiplication better than Makarov's algorithm.

研究の動機と目的

• 有限群における⟨m,m,m⟩三重積性質（TPP）三つ組を探索する、著しく高速なアルゴリズムの開発を目的とする。
• 新アルゴリズムを応用し、任意の群が5×5行列乗算を100スカラー乗算未満で実現できるかどうかを特定することを目的とする。
• 小規模行列乗算における群的枠組みの既知の上界と理論的限界の間のギャップを埋めることを目的とする。
• 群の大きさが55以下の範囲でTPP三つ組を同定するための実用的でスケーラブルな手法を提供することを目的とする。これにより、高速行列乗算における群的アプローチのより深い探求が可能になる。

提案手法

• 著者らは、群の要素および商集合の走査を最適化し、知的なプルーニングとデータ構造のインデキシングにより重複チェックを削減する新しい探索アルゴリズムを設計した。
• 右商集合Q(S)、Q(T)、Q(U)の構造を活用して、TPP条件「stu = 1 ならばかつそのときに限り s=t=u=1」を効率的にテストする。
• 並列化された実装を用いて、群の位数が55に達する範囲で探索をスケーリングし、網羅的またはほぼ網羅的な探索を可能にした。
• 探索の前段階で群的制約と特徴指標の次数を統合して候補となる群をフィルタリングし、探索空間を削減した。
• アルゴリズムはC++で実装され、メモリアクセスパターンとキャッシュ効率を最適化することで、報告された40〜194倍の高速化を達成した。
• このフレームワークを用いて、位数≤55のすべての群に対して⟨5,5,5⟩TPP三つ組の存在をテストしたが、マカラフの上界を下回る改善は得られなかった。

実験結果

リサーチクエスチョン

• RQ1 m=5の状況を含め、有限群における⟨m,m,m⟩TPP三つ組を探索する、より高速なアルゴリズムを開発することは可能か？
• RQ2 コーエンとウーマンズの群的枠組みを用いて、5×5行列乗算を100スカラー乗算未満で実現することは可能か？
• RQ3 位数が55以下の群のうち、⟨5,5,5⟩TPP三つ組を含み、100スカラー乗算未満の行列乗算アルゴリズムを生み出すものがあるか？
• RQ4 新アルゴリズムは、より高い位数の群を探索するのにスケーラブルに拡張可能か？ また、新たな行列乗算アルゴリズムの発見に繋がるか？
• RQ5 群的枠組み下で5×5行列乗算を実現するために必要な最小のスカラー乗算回数は何か？

主な発見

• 新アルゴリズムは、⟨m,m,m⟩TPP三つ組を探索する分野で、既存の最良手法と比較して40〜194倍の高速化を達成した。
• 位数が55以下のいかなる群に対しても⟨5,5,5⟩TPP三つ組は発見されず、これは5×5行列乗算を100スカラー乗算未満で実現できる群は存在しないことを示している。
• 本稿では、マカラフが1987年に示した5×5行列乗算の100スカラー乗算という上界が、群的枠組み下でタイトであることが証明された。
• 探索により、現在の枠組みでは100スカラー乗算未満の改善は不可能であることが確認され、分野における重要な未解決問題が解決された。
• アルゴリズムにより、位数が55以下の群における⟨5,5,5⟩TPP三つ組の初の網羅的探索が可能になった。これは今後の研究の新たな基準となる。
• 結果から、新たな構造的洞察やアルゴリズム的最適化が得られない限り、群的アプローチによる5×5行列乗算のさらなる改善は得られない可能性がある。