[論文レビュー] GVE-Louvain: Fast Louvain Algorithm for Community Detection in Shared Memory Setting

Subhajit Sahu|arXiv (Cornell University)|Dec 8, 2023

Complex Network Analysis Techniques被引用数 7

ひとこと要約

この論文では、ローカル移動フェーズと集約フェーズの両方を高速化する9つの的を絞った最適化を活用して、共有メモリ並列実装のLouvainアルゴリズムであるGVE-Louvainを提示する。デュアル16コアIntel Xeonシステム上では、38億エッジのウェブグラフで1秒間に5億6千万エッジを処理し、Vite、Grappolo、NetworKitをそれぞれ50倍、22倍、20倍の速度で上回った。スレッド数を2倍にした際のスレッドあたりのスピードアップは1.6倍であった。

ABSTRACT

Community detection is the problem of identifying natural divisions in networks. Efficient parallel algorithms for identifying such divisions is critical in a number of applications, where the size of datasets have reached significant scales. This technical report presents one of the most efficient multicore implementations of the Louvain algorithm, a high quality community detection method. On a server equipped with dual 16-core Intel Xeon Gold 6226R processors, our Louvain, which we term as GVE-Louvain, outperforms Vite, Grappolo, NetworKit Louvain, and cuGraph Louvain (running on NVIDIA A100 GPU) by 50x, 22x, 20x, and 5.8x faster respectively - achieving a processing rate of 560M edges/s on a 3.8B edge graph. In addition, GVE-Louvain improves performance at an average rate of 1.6x for every doubling of threads.

研究の動機と目的

• ローカル移動フェーズの並列化の進展にもかかわらず、依然として最適化が不十分なLouvainアルゴリズムの集約フェーズにおける性能ボトルネックを解消すること。
• エネルギー効率が良く、広く利用可能な共有メモリマルチコアアーキテクチャを念頭に、大規模グラフにおけるコミュニティ検出の効率を向上させること。
• 散在するアルゴリズム的改善を統合した、統一的かつ高度に最適化された実装を提供すること。
• 負荷の不均衡や競合を最小限に抑えながら、強力なスケーリングと高いモジュラリティの質を達成すること。
• 将来的な動的アルゴリズム拡張の基盤を構築することで、動的グラフにおけるリアルタイムまたはインタラクティブなコミュニティ検出を可能にすること。

提案手法

• 共有メモリ環境におけるメモリ競合の低減とデータ局所性の向上を焦点に、Louvainアルゴリズムに9つの的を絞った最適化を適用する。
• 誤った共有やキャッシュミスを最小限に抑えるために、ベクトル化されたハッシュテーブルと効率的なスレッド割り当て戦略を用いてローカル移動フェーズを最適化する。
• ロック競合を最小限に抑え、スレッド間の負荷バランスを向上させる、カスタムでスケーラブルな削減戦略を採用して集約フェーズを高速化する。
• 不規則なグラフワークロードにおけるオーバーヘッドを低減するため、OpenMPタスクとスタティックスケジューリングを組み合わせたハイブリッドアプローチを導入する。
• 異なる入力タイプにおけるグラフ次数やコミュニティ構造の変動に適応する動的負荷分散メカニズムを実装する。
• コミュニティ再番号付けやデンドログラム照合といったパフォーマンスが重要なコンponentsを主計算パイプラインに統合し、遅延を低減する。

実験結果

リサーチクエスチョン

• RQ1 共有メモリ並列化において性能ボトルネックが残るLouvainアルゴリズムの集約フェーズを、どのように最適化できるか？
• RQ2 マルチコア共有メモリ環境において、コミュニティ検出のパフォーマンスを最大化するために、アルゴリズム的最適化とシステムレベル最適化のどの組み合わせが最も高い性能向上をもたらすか？
• RQ3 ローカル移動フェーズと集約フェーズの両方が最適化された場合、Louvainアルゴリズムでどの程度の強力なスケーリングが達成できるか？
• RQ4 最適化されたGVE-Louvain実装のモジュラリティの質は、Vite、Grappolo、NetworKitといった既存のオープンソース実装と比べてどの程度か？
• RQ5 グラフの特性（例：次数分布、クラスタリング）が、最適化された実装のパフォーマンスとスケーリング特性に及ぼす影響はどの程度か？

主な発見

• 38億エッジのウェブグラフ上で、GVE-Louvainは1秒間に5億6千万エッジ（560M edges/s）を処理した。
• 同じハードウェアとデータセット上での比較で、GVE-LouvainはViteを50倍、Grappoloを22倍、NetworKitを20倍の速度で上回った。
• スレッド数を2倍にした際の平均スピードアップは1.6倍であり、強力なスケーリング効率を示した。
• 64スレッドで、単一スレッドに対して11.4倍のスピードアップを達成したが、NUMA効果による性能劣化が見られた。
• ローカル移動フェーズが合計実行時間の49％を占め、集約フェーズが35％、その他のフェーズ（初期化、再番号付けなど）が16％を占めた。
• ウェブグラフではViteより3.1％高いモジュラリティを達成したが、クラスタリングが悪いソーシャルネットワークではGrappoloおよびNetworKitより0.6％低いモジュラリティであった。