[論文レビュー] Greedy Sequential Maximal Independent Set and Matching are Parallel on Average

Guy E. Blelloch, Jeremy T. Fineman+1 more|arXiv (Cornell University)|Feb 15, 2012

Complexity and Algorithms in Graphs被引用数 15

ひとこと要約

この論文は、頂点／辺の順序付けをランダム化することで、最大独立集合（MIS）および最大マッチング（MM）の貪欲な逐次アルゴリズムが、多項式対数の深さを達成することを示している。順序の接頭辞を並列に処理することで、線形の作業量と高いスループット（32コアで14–24倍）を達成し、決定論的に辞書的最小のMIS/MM解を再現する。

ABSTRACT

The greedy sequential algorithm for maximal independent set (MIS) loops over the vertices in arbitrary order adding a vertex to the resulting set if and only if no previous neighboring vertex has been added. In this loop, as in many sequential loops, each iterate will only depend directly on a subset of the previous iterates (i.e. knowing that any one of a vertices neighbors is in the MIS or knowing that it has no previous neighbors is sufficient to decide its fate). This leads to a dependence structure among the iterates. If this structure is shallow then running the iterates in parallel while respecting the dependencies can lead to an efficient parallel implementation mimicking the sequential algorithm. In this paper, we show that for any graph, and for a random ordering of the vertices, the dependence depth of the sequential greedy MIS algorithm is polylogarithmic (O(log^2 n) with high probability). Our results extend previous results that show polylogarithmic bounds only for random graphs. We show similar results for a greedy maximal matching (MM). For both problems we describe simple linear work parallel algorithms based on the approach. The algorithms allow for a smooth tradeoff between more parallelism and reduced work, but always return the same result as the sequential greedy algorithms. We present experimental results that demonstrate efficiency and the tradeoff between work and parallelism.

研究の動機と目的

• 従来の並列MISおよびMMアルゴリズムが、大規模システムでのみ逐次版を上回る性能を発揮するという非効率性を是正すること。
• 頂点／辺の順序付けをランダム化することで、MISおよびMMの単純な貪欲な逐次アルゴリズムが効率的に並列化可能であることを示すこと。
• 決定論的な並列実装を提供し、逐次貪欲アルゴリズムの結果（辞書的最小のMIS/MM）を保ちながら、高い並列性と低い作業量を達成すること。
• 接頭辞ベースのスケジューリングにより、作業量と並列性の滑らかなトレードオフを確立し、中程度のプロセッサ数でも実用的な性能向上を実現すること。

提案手法

• 頂点（MISの場合）または辺（MMの場合）をランダムな順序で処理し、順序の各接頭辞に対して貪欲アルゴリズムを並列に実行する。
• 各接頭辞に対して、その前に登場する隣接頂点／辺がまだ解に含まれていない場合にのみ、処理を実行することで、正しさとデータ独立性を保証する。
• 並列粒度を制御するための粒度（例：256）を用い、しきい値に達した時点で逐次実行から並列実行に切り替える。
• 確率論的手法を用いて貪欲アルゴリズムの依存長を分析し、ランダム順序下で任意のグラフに対して、高確率でO(log²n)であることを示す。
• MMのためのMISアルゴリズムを、線グラフを明示的に構築せずに線グラフを暗黙的に扱えるように変更し、線形の作業量を維持する。
• 接頭辞サイズを調整可能な接頭辞ベースの並列フレームワークを実装し、最適な接頭辞サイズでは線形作業量を理論的に保証する。

実験結果

リサーチクエスチョン

• RQ1 ランダムグラフに限らず、任意のグラフに対して貪欲な逐次MISアルゴリズムを効率的に並列化できるか？
• RQ2 ランダムな頂点順序下での貪欲なMISアルゴリズムの依存長は何か？ そして、多項式対数的にスケーリングするか？
• RQ3 貪欲なMISおよびMMアルゴリズムの並列実装は、線形作業量を維持しながら、逐次版と同じ結果を得られるか？
• RQ4 接頭辞サイズの選択が、実際の性能において、総作業量、並列性、実行時間のトレードオフにどのように影響するか？
• RQ5 提案手法は、中程度のプロセッサ数において、逐次実装およびLubyのアルゴリズムを凌駆できるか？

主な発見

• 任意のグラフとランダムな頂点順序に対して、貪欲なMISアルゴリズムの依存長は高確率でO(log²n)であり、多項式対数の並列深さを達成できる。
• 提案された接頭辞ベースの並列アルゴリズムは、MISで32プロセッサで14–17倍、MMで21–24倍のスループット向上を達成し、4–32コアでしか実行されない逐次版を上回る。
• 接頭辞ベースのMIS実装は、Lubyのアルゴリズムよりも32コアで4–8倍速く、余分な作業の削減とラウンド間の優先度再割り当ての必要性がないためである。
• 依存関係が尊重されていれば、実行スケジュールに関係なく決定論的な結果が保証され、逐次実行と並列実行の間で一貫性が保たれる。
• 作業量と実行時間の最小化に最適な接頭辞サイズは、入力サイズの10⁻⁶～10⁻⁴の範囲で実験的に特定され、この範囲で実行速度の急上昇が観察される。これは、逐次から並列へのループの遷移に起因する。
• この手法は他の貪欲な逐次アルゴリズムへ一般化可能であり、並列アルゴリズム設計における広範な応用可能性を示唆している。