[論文レビュー] Deep Multilevel Graph Partitioning

Lars Gottesbüren, Tobias Heuer+3 more|arXiv (Cornell University)|May 5, 2021

Graph Theory and Algorithms被引用数 6

ひとこと要約

本稿では、大規模なブロック数（k）に対する効率的でバランスの取れたグラフ分割を可能にする、深層マルチレベルグラフ分割（deep MGP）という新しいマルチレベルフレームワークを紹介する。このフレームワークは、再帰的バイパーティションと直接k分割を統合し、初期分割段階まで深い階層のコarseningを継続することで、従来の手法と比べて最大10倍の高速化を達成する。KaMinParアルゴリズムは、すべての段階で並列性を維持することで、kが数百万に達する場合でも一貫してバランスの取れた高品質な分割を生成する。

ABSTRACT

Partitioning a graph into blocks of "roughly equal" weight while cutting only few edges is a fundamental problem in computer science with a wide range of applications. In particular, the problem is a building block in applications that require parallel processing. While the amount of available cores in parallel architectures has significantly increased in recent years, state-of-the-art graph partitioning algorithms do not work well if the input needs to be partitioned into a large number of blocks. Often currently available algorithms compute highly imbalanced solutions, solutions of low quality, or have excessive running time for this case. This is because most high-quality general-purpose graph partitioners are multilevel algorithms which perform graph coarsening to build a hierarchy of graphs, initial partitioning to compute an initial solution, and local improvement to improve the solution throughout the hierarchy. However, for large number of blocks, the smallest graph in the hierarchy that is used for initial partitioning still has to be large. In this work, we substantially mitigate these problems by introducing deep multilevel graph partitioning and a shared-memory implementation thereof. Our scheme continues the multilevel approach deep into initial partitioning -- integrating it into a framework where recursive bipartitioning and direct k-way partitioning are combined such that they can operate with high performance and quality. Our approach is stronger, more flexible, arguably more elegant, and reduces bottlenecks for parallelization compared to other multilevel approaches. For example, for large number of blocks our algorithm is on average an order of magnitude faster than competing algorithms while computing balanced partitions with comparable solution quality. For small number of blocks, our algorithms are the fastest among competing systems with comparable quality.

研究の動機と目的

• グラフを多数のブロック（k）に分割する際、従来のマルチレベルグラフ分割器のスケーラビリティに課題が生じる問題を解決すること。
• 大規模なkに対して性能と解の品質を低下させるコアスニング段階と初期分割段階のボトルネックを克服すること。
• 多数のコアで負荷バランスと高いパフォーマンスを維持する共有メモリ並列実装を開発すること。
• 統合されたマルチレベルフレームワーク内で再帰的バイパーティションと直接k分割を統合し、柔軟性と効率性を向上させること。
• 多様なグラフタイプとkの値に対し、一貫した解の品質とバランスを保証すること。

提案手法

• コアスニングとアンコアスニングを複数段階にわたり継続する深層MGPを提案。アンコアスニング段階で再帰的バイパーティションを統合し、k個のブロックを構築する。
• 単一のコアスニングとアンコアスニングサイクルを採用。バイパーティションは、ノード数がC個程度のグラフにのみ適用される。ここでCはユーザーが定義するパラメータである。
• 並列性の不変則を維持：p個のプロセッシング要素が、それぞれ少なくともp×C個のノードを持つグラフを処理することで、負荷バランスとスケーラビリティを確保する。
• k分割の局所的最適化とバランス調整を階層内に明示的なコンponentとして統合し、大規模スケールでの高品質な解を実現する。
• サイズ制限付きラベル伝搬を用いたコアスニングとリファインメントを実装し、最適化されたメモリアクセスパターンを採用した共有メモリ並列版（KaMinPar）を実装する。
• 1〜64コアでのスケーラビリティを評価するための調和平均のスルーレートを用い、パフォーマンス分析の詳細化を図る。

実験結果

リサーチクエスチョン

• RQ1 マルチレベルグラフ分割フレームワークを初期分割段階まで深く拡張することで、大規模kにおけるスケーラビリティを向上させることができるか？
• RQ2 統合されたフレームワーク内で再帰的バイパーティションと直接k分割を組み合わせることで、従来の手法よりも優れたパフォーマンスと解の品質が得られるか？
• RQ3 深層MGPは、最大64コアの共有メモリシステムにおいて、大規模kに対して高い負荷バランスを維持し、ほぼ線形のスルーレートを達成できるか？
• RQ4 kが2^11から2^20の範囲にある場合、深層MGPは最先端の分割器と比較して、解の品質、バランス、実行時間の点で優れているか？
• RQ5 他の分割器がタイムアウトや不均衡な結果を出力する場合でも、深層MGPは時間制限内に妥当（バランスの取れた）解を一貫して生成できるか？

主な発見

• KaMinParは84のテストインスタンス（21のグラフ × 4つのk値）すべてで妥当でバランスの取れた分割を生成した。一方、Mt-Metis-RB、Mt-Metis-K、PuLP、Mt-KaHIPは、タイムアウトや不均衡のため4〜76インスタンスで失敗した。
• 大規模kでは、KaMinParは競合アルゴリズムと比べて少なくとも10倍の高速化を達成した。Mt-Metis-RB 10が最も速い競合手法であったが、平均で5倍以上遅かった。
• KaMinParの調和平均のスルーレートは64コアで27.9に達し、リファインメント部とコアスニング部はそれぞれ33.1および25.0のスルーレートを示しており、強力な並列スケーラビリティを示している。
• KaMinParはコアスニングよりもスケーリングが優れており、特に高次数のグラフにおいて、リファインメント段階のより効率的なメモリアクセスパターンのおかげである。
• アルゴリズムは一貫してバランスの取れた解を生成し、中央値の不均衡は1.05未満、最大不均衡は1.15未満に抑えられ、Mt-Metis-Kを上回るバランス品質を達成した。
• 深層MGPは、品質とパフォーマンスのトレードオフに有利な条件を提供する：小規模kでは従来のシステムより高速であり、大規模kでは劇的に高速化されつつも、解の品質とバランスを維持している。