[論文レビュー] Parallel computation of the rank of large sparse matrices from algebraic K-theory

Jean‐Guillaume Dumas, Philippe Elbaz–Vincent+2 more|arXiv (Cornell University)|Apr 18, 2007

Algebraic structures and combinatorial models参考文献 21被引用数 4

ひとこと要約

本稿では、代数的K理論に現れる非常に大きなスパース行列のランクを計算するための並列アルゴリズムを提示する。特に、$GL_7(\mathbb{Z})$ のコhomologyに対して適用する。最適化されたスパース線形代数と最大50プロセッサを用いた分散メモリ並列処理により、$GL_7(\mathbb{Z})$ の有理コhomologyの初回計算が達成され、次数0、5、11、14、15で非自明なコhomologyが明らかになった。

ABSTRACT

This paper deals with the computation of the rank and of some integer Smith forms of a series of sparse matrices arising in algebraic K-theory. The number of non zero entries in the considered matrices ranges from 8 to 37 millions. The largest rank computation took more than 35 days on 50 processors. We report on the actual algorithms we used to build the matrices, their link to the motivic cohomology and the linear algebra and parallelizations required to perform such huge computations. In particular, these results are part of the first computation of the cohomology of the linear group GL_7(Z).

研究の動機と目的

• セルラーコホモロジー複体から導かれる大きなスパース行列のランクを求める事で、$GL_7(\mathbb{Z})$ の有理コhomologyを計算すること。
• 数論やK理論の現代的側面において中心的役割を果たす算術群の高次元コhomology群の計算を可能にすること。
• 最大3700万非ゼロ要素を有する行列に対する、スケーラブルな並列アルゴリズムを用いたスパース行列ランク計算の開発と適用。
• 数体の整数環のモチーフ的コhomologyおよび$K$-群を研究するための計算フレームワークの構築。
• これらの行列の完全なスミス標準形の計算により、ねじれコhomologyにアクセスするための基盤を築くこと。これは、現在のところ主要な未解決問題である。

提案手法

• 対称空間のセル分解からスパース接続行列を構築する。
• 反復的Krylov部分空間法を用いて、Arnoldi法と暗黙的再起動を適用し、大きなスパース行列のランクを計算する。
• 複数プロセッサ間で行列-ベクトル積を並列化し、動的タスクスケジューリングによる負荷分散を実現する。
• BLAS-3カーネルと、高キャッシュ効率を実現するカスタムスパース行列-ベクトル乗算ルーチンを用いて性能最適化を行う。
• Arnoldi反復の収束を加速し、反復回数を削減するための$\sigma$-basis計算を実装する。
• 対称性とスパース構造を活用して計算コストを低減し、スケーラビリティを向上させる。

実験結果

リサーチクエスチョン

• RQ1 $GL_7(\mathbb{Z})$ の有理コhomologyは何か。非自明な次数はどれか。
• RQ2 最大3700万非ゼロ要素を有する極めて大きなスパース行列のランクを、並列スパース線形代数を用いて効率的に計算できるか。
• RQ3 アルゴリズム的最適化と並列処理によって、行列ランク計算の計算ボトルネックをどのように軽減できるか。
• RQ4 システム不安定性とデータ復旧が、長時間にわたる高性能計算の信頼性に与える影響は何か。
• RQ5 これらの行列のスミス標準形を計算することで、整数コhomologyにおけるねじれ情報の抽出が可能か。

主な発見

• $GL_7(\mathbb{Z})$ の有理コhomologyは、次数0、5、11、14、15で非自明であり、これらの次数において$H^m(GL_7(\mathbb{Z}), \mathbb{Q}) \cong \mathbb{Q}$ であり、それ以外の次数ではゼロである。
• 最大のランク計算は50プロセッサで35日以上のウォールクロック時間が必要であり、$GL_7d17$ の行列は125万回の反復を要し、完了までに113.9日を要した。
• 並列実装により、スカラ実行と比較して100倍以上のスルーブプを達成し、大規模クラスタ上では日単位の計算時間が数時間に短縮された。
• $\sigma$-basis計算により反復回数が顕著に削減され、$GL_7d19$ の最終段階は50プロセッサでわずか1.56秒で完了した。
• システムクラッシュとデータ復旧のため、計算の一部を再実行する必要があり、実世界のHPC環境における長期科学的ワークロードの信頼性が依然として課題であることが示された。
• 現在の手法では、行列の巨大なサイズとスパース構造のため、スミス標準形の計算は現実的ではない。これは、計算数論分野における主要な未解決問題である。