[論文レビュー] Analyzing and enhancing OSKI for sparse matrix-vector multiplication

Kadir Akbudak, Enver Kayaaslan+1 more|arXiv (Cornell University)|Mar 13, 2012

Parallel Computing and Optimization Techniques参考文献 5被引用数 13

ひとこと要約

本稿では、OSKIフレームワーク内での1次元および2次元行列分割を用いて、スパース行列-ベクトル乗算（SpMv）のキャッシュサイズに配慮した行/列の再順序付け手法を提案する。カラム・ネットおよび行-カラム・ネットという拡張されたハイパーグラフモデルを用いることで、時間的局所性が向上し、多様なスパース行列において最先端の手法を上回る性能を達成する。

ABSTRACT

Sparse matrix-vector multiplication (SpMxV) is a kernel operation widely used in iterative linear solvers. The same sparse matrix is multiplied by a dense vector repeatedly in these solvers. Matrices with irregular sparsity patterns make it difficult to utilize cache locality effectively in SpMxV computations. In this work, we investigate single- and multiple-SpMxV frameworks for exploiting cache locality in SpMxV computations. For the single-SpMxV framework, we propose two cache-size-aware top-down row/column-reordering methods based on 1D and 2D sparse matrix partitioning by utilizing the column-net and enhancing the row-column-net hypergraph models of sparse matrices. The multiple-SpMxV framework depends on splitting a given matrix into a sum of multiple nonzero-disjoint matrices so that the SpMxV operation is performed as a sequence of multiple input- and output-dependent SpMxV operations. For an effective matrix splitting required in this framework, we propose a cache-size-aware top-down approach based on 2D sparse matrix partitioning by utilizing the row-column-net hypergraph model. The primary objective in all of the three methods is to maximize the exploitation of temporal locality. We evaluate the validity of our models and methods on a wide range of sparse matrices by performing actual runs through using OSKI. Experimental results show that proposed methods and models outperform state-of-the-art schemes.

研究の動機と目的

• 不規則なスパarsityパターンに起因するスパース行列-ベクトル乗算（SpMv）におけるキャッシュ局所性の悪さという課題に対処する。
• 現代のメモリ階層において性能を向上させるために、SpMv計算における時間的局所性を向上させる。
• キャッシュサイズ制約に適合した効率的な行列再順序付けおよび分割戦略を開発する。
• 実スパース行列を用いた反復線形ソルバのOSKIライブラリの性能を評価し、向上させる。
• 最適な行列分割および再順序付けを誘導するための新規ハイパーグラフモデル（カラム・ネットおよび行-カラム・ネット）を提案する。

提案手法

• 時間的局所性の向上を目的として、カラム・ネットハイパーグラフモデルに基づく1次元キャッシュサイズに配慮したトップダウン型行/列再順序付け手法を導入する。
• 単一のSpMv演算における局所性の向上を目的として、行-カラム・ネットハイパーグラフモデルを用いた2次元キャッシュサイズに配慮したトップダウン型再順序付け手法を開発する。
• 非ゼロ要素が互いに素な成分に行列を分割することで、入力および出力依存のSpMv演算を可能にする複数のSpMvフレームワークを提案する。
• 2次元分割と行-カラム・ネットハイパーグラフモデルに基づいたキャッシュサイズに配慮したトップダウン型行列分割戦略を設計する。
• すべての手法をOSKIライブラリに統合し、実世界のスパース行列を用いて性能を評価する。
• キャッシュサイズ制約を考慮したガイドラインに従い、ハイパーグラフ分割を用いてデータ移動を最小限に抑え、再利用を最大化する。

実験結果

リサーチクエスチョン

• RQ1 単一のSpMv演算において、時間的局所性を最大化するための行および列の再順序付け戦略はどのように設計できるか？
• RQ2 2次元行列分割と拡張されたハイパーグラフモデルは、SpMvにおけるキャッシュ利用効率をどの程度向上させられるか？
• RQ3 非ゼロ要素が互いに素な成分に分割された行列は、複数のSpMv演算において性能向上に寄与するか？
• RQ4 再順序付けおよび分割におけるキャッシュサイズの認識は、多様なスパース行列において性能にどのように影響を与えるか？
• RQ5 提案手法は、実装効率およびスケーラビリティの観点から、最先端の手法と比較してどの程度優れているか？

主な発見

• 提案された1次元および2次元キャッシュサイズに配慮した再順序付け手法は、単一のSpMv演算において時間的局所性を顕著に向上させる。
• 行-カラム・ネットハイパーグラフモデルは、より効果的な2次元分割を可能にし、従来のモデルよりも優れたキャッシュ利用効率を実現する。
• 非ゼロ要素が互いに素な成分に分割された行列を用いた複数のSpMvフレームワークは、データ移動を削減し、大規模なスパース行列において性能を向上させる。
• 提案されたすべての手法は、実行時間およびキャッシュ効率の観点で、既存の最先端手法を上回る。
• 幅広いスパース行列を用いた実験的評価により、異なる行列タイプおよびサイズにおいて一貫した性能向上が確認された。
• OSKIへの統合は実用的有効性を示しており、多様なテスト行列を用いた実走行による性能向上が裏付けられた。