[論文レビュー] Randomized Compression of Rank-Structured Matrices Accelerated with Graph Coloring

James J. Levitt, Per‐Gunnar Martinsson|arXiv (Cornell University)|May 6, 2022

Topological and Geometric Data Analysis参考文献 26被引用数 5

ひとこと要約

本稿では、階層的木構造（H行列やHODLR行列など）のランク構造行列を圧縮するための確率的アルゴリズムを提示する。グラフ彩色を用いてテストベクトルを最適化することで、行列-ベクトル積の回数を削減し、特に3次元空間内の表面などの低次元多様体から生じる行列に対して、より高速かつ高精度な圧縮を実現する。

ABSTRACT

A randomized algorithm for computing a data sparse representation of a given rank structured matrix $A$ (a.k.a. an $H$-matrix) is presented. The algorithm draws on the randomized singular value decomposition (RSVD), and operates under the assumption that algorithms for rapidly applying $A$ and $A^{*}$ to vectors are available. The algorithm analyzes the hierarchical tree that defines the rank structure using graph coloring algorithms to generate a set of random test vectors. The matrix is then applied to the test vectors, and in a final step the matrix itself is reconstructed by the observed input-output pairs. The method presented is an evolution of the "peeling algorithm" of L. Lin, J. Lu, and L. Ying, "Fast construction of hierarchical matrix representation from matrix-vector multiplication," JCP, 230(10), 2011. For the case of uniform trees, the new method substantially reduces the pre-factor of the original peeling algorithm. More significantly, the new technique leads to dramatic acceleration for many non-uniform trees since it constructs sample vectors that are optimized for a given tree. The algorithm is particularly effective for kernel matrices involving a set of points restricted to a lower dimensional object than the ambient space, such as a boundary integral equation defined on a surface in three dimensions.

研究の動機と目的

• 行列-ベクトル乗算のアクセスのみを用いて、ランク構造行列のデータスパース表現を構築するブラックボックス手法の開発。
• 特に非一様な階層的木構造に対して、従来のピーリングアルゴリズムと比較して、行列圧縮の前処理係数を低減すること。
• 境界積分方程式などの低次元幾何的構造（例えば表面）から生じる行列の圧縮における効率性と精度の向上。
• スパース直接解法器における逆行列計算やシュール補行列計算などの高速かつ高精度な行列演算を可能にすること。
• クラスターツリー構造上でグラフ彩色を用いてテストベクトル選択を最適化することで、行列-ベクトル乗算の回数を最小限に抑えること。

提案手法

• ランク構造行列の階層的クラスターツリーを、テストベクトル選択を導くグラフ彩色問題として定式化する。
• グラフ彩色を用いて最適化されたテスト行列 Ω と Ψ を生成し、各行列-ベクトル乗算あたりの情報量を最大化する。
• 行列 A 及びその随伴 A* をテストベクトルに作用させ、Y = AΩ と Z = A*Ψ を得て、入出力挙動を捉える。
• 観測された入出力ペアと確率的SVD技術を用いて、低ランク因子を抽出し、行列を再構築する。
• 木の深さとクラスタの接続性に基づいてテストベクトルを割り当てることで、非一様な木構造に対しても適応可能にし、重複する演算を削減する。
• 既存の高速多重極法または階層的行列乗算ルーチンを、A と A* のブラックボックスアクセスとして活用する。

実験結果

リサーチクエスチョン

• RQ1 クラスターツリー構造上でグラフ彩色を適用することで、確率的行列圧縮に必要な行列-ベクトル積の回数を削減できるか？
• RQ2 一様および非一様な階層的木構造の両方において、提案手法は元のピーリングアルゴリズムと比較して、効率性と精度で優れているか？
• RQ3 3次元空間内の表面などの低次元多様体から生じる行列に対して、本手法は圧縮の加速をどの程度達成できるか？
• RQ4 因子化過程でランク構造が現れるスパース直接解法器におけるシュール補行列への本手法の適用は有効か？
• RQ5 グラフ彩色に基づくテストベクトル選択は、一様サンプリングと比較して、圧縮精度の向上とストレージコストの低減を達成できるか？

主な発見

• 一様木構造では、行列-ベクトル積の前処理係数を 8^d から 6^d に削減し、著しく効率性が向上した。
• 非一様木構造、特に低次元多様体（例：表面）から生じる木構造では、適応的サンプリングのおかげで圧倒的な加速が達成された。
• 圧縮時間は行列サイズ N に対して準線形にスケーリングし、時間の大部分が行列-ベクトル乗算に費やされていることから、このような呼び出しを最小限に抑える重要性が浮き彫りになった。
• すべてのテストケースで高い精度が達成され、H^1形式ではストレージコストが対数的に増加し、H^2形式ではほぼ一定に保たれた。
• 高速多重極法（FMM）の例では、圧縮の精度が元のFMMの精度と一致しており、圧縮プロセスによる精度損失はなかった。
• 一様 H^1 圧縮方式は、H^1 + 一様方式と比較して、圧縮速度、精度、ストレージ効率の面で優れていた。