[論文レビュー] RECEIPT: REfine CoarsE-grained IndePendent Tasks for Parallel Tip decomposition of Bipartite Graphs

Kartik Lakhotia, Rajgopal Kannan+2 more|arXiv (Cornell University)|Oct 17, 2020

Caching and Content Delivery参考文献 65被引用数 5

ひとこと要約

RECEIPT は、二部グラフにおける先端分解のための画期的な共有メモリ並列アルゴリズムであり、異なる先端番号レベルにおける頂点の独立部分集合を活用することで、高い並列性を達成するとともに、同期のオーバーヘッドを著しく低減する。大規模データセットにおいて、最先端の手法と比較して、最大17.1倍の自己相対的スルーブライトを達成し、Wedgeの走査回数を64倍、スレッド同期回数を1100倍削減する。

ABSTRACT

Tip decomposition is a crucial kernel for mining dense subgraphs in bipartite networks, with applications in spam detection, analysis of affiliation networks etc. It creates a hierarchy of vertex-induced subgraphs with varying densities determined by the participation of vertices in butterflies (2,2-bicliques). To build the hierarchy, existing algorithms iteratively follow a delete-update(peeling) process: deleting vertices with the minimum number of butterflies and correspondingly updating the butterfly count of their 2-hop neighbors. The need to explore 2-hop neighborhood renders tip-decomposition computationally very expensive. Furthermore, the inherent sequentiality in peeling only minimum butterfly vertices makes derived parallel algorithms prone to heavy synchronization. In this paper, we propose a novel parallel tip-decomposition algorithm -- REfine CoarsE-grained Independent Tasks (RECEIPT) that relaxes the peeling order restrictions by partitioning the vertices into multiple independent subsets that can be concurrently peeled. This enables RECEIPT to simultaneously achieve a high degree of parallelism and dramatic reduction in synchronizations. Further, RECEIPT employs a hybrid peeling strategy along with other optimizations that drastically reduce the amount of wedge exploration and execution time. We perform detailed experimental evaluation of RECEIPT on a shared-memory multicore server. It can process some of the largest publicly available bipartite datasets orders of magnitude faster than the state-of-the-art algorithms -- achieving up to 1100x and 64x reduction in the number of thread synchronizations and traversed wedges, respectively. Using 36 threads, RECEIPT can provide up to 17.1x self-relative speedup. Our implementation of RECEIPT is available at https://github.com/kartiklakhotia/RECEIPT.

研究の動機と目的

• 最小バタフライ頂点の逐次剥がしに依存する従来の逐次的および並列的先端分解アルゴリズムの拡張性の限界を解消すること。
• 大規模グラフにおいてトリンティルのWedgeを数兆回走査する必要がある、先端分解における2ホップ近傍探索の高い計算コストを低減すること。
• 剥がしプロセスの固有の逐次性に起因するスレッド同期のオーバーヘッドを最小限に抑えること。
• 共有メモリマルチコアシステムを用いた大規模二部グラフにおける効率的でスケーラブルかつ実用的な先端分解を可能にすること。
• 本手法の一般化可能性を、ワイング分解や分散メモリ実行などの他のグラフ解析問題へと探求すること。

提案手法

• 二部グラフを受け取り、頂点をその先端番号に基づいて独立部分集合に分割し、k-先端階層の異なるレベルで同時に剥がし処理を実行可能にする。
• 粗粒度の独立タスクスケジューリングと細粒度の最適化を組み合わせたハイブリッド剥がし戦略を採用し、Wedge探索を削減するとともに、負荷分散を向上させる。
• バタフライ数の事前計算と剥がし中の2ホップ近傍更新を効率的に行うための新規インデキシング方式を採用し、重複計算を最小限に抑える。
• 推定計算コストに基づいてスレッド間で剥がしワークロードを動的に割り当てるタスクスケジューリング機構を導入し、負荷の不均衡を低減する。
• メモリアクセス最適化とSIMD並列処理を活用し、共有メモリ実行におけるデータ局所性を向上させるとともに、NUMA効果を低減する。
• 同じタスクの独立性と最適化原則を拡張することで、頂点剥がし（先端分解）とエッジ剥がし（ワイング分解）の両方をサポートする。

実験結果

リサーチクエスチョン

• RQ1 異なる先端番号レベルにおける頂点の独立部分集合を特定し、並列処理することで、先端分解における逐次的剥がしのボトルネックを解消できるか？
• RQ2 知的なワークロード分割とハイブリッド剥がしを用いることで、並列先端分解におけるWedge走査とスレッド同期をどの程度削減できるか？
• RQ3 大規模二部グラフにおいて、RECEIPT の性能はスレッド数の増加に伴い、従来の並列アルゴリズムと比較してどの程度スケーリングするか？
• RQ4 提案された最適化は、ワイング分解や分散メモリ実行などの他のグラフ解析問題へ一般化可能か？
• RQ5 共有メモリ環境における大規模先端分解において、アルゴリズムの複雑性、メモリ使用量、パフォーマンスのトレードオフはどのようなものか？

主な発見

• RECEIPT は、共有メモリマルチコアサーバーを用いて最大36スレッドで実行した場合、最大17.1倍の自己相対的スルーブライトを達成し、既存の並列アルゴリズムを著しく上回る。
• LiveJournal データセットにおいて、RECEIPT は16分未満で先端分解を完了するが、最良の逐次アルゴリズム（Bit-BU）では15時間以上を要する。
• RECEIPT は、最先端の並列アルゴリズムと比較して、スレッド同期回数を最大1100倍、Wedge走査回数を最大64倍削減する。
• ビットマップベースのインデキシング手法（例：Bit-BU）が数百ギガバイトのメモリを必要とするのに対し、RECEIPT は数ギガバイトのメモリしか使用しない。
• ハイブリッド剥がし戦略とタスクパーティショニングにより、先端分解における主なパフォーマンスボトルネックである2ホップ近傍探索の計算コストが顕著に低減される。
• RECEIPT の設計は、並列ワイング分解や分散メモリシステムへも拡張可能であり、細粒度並列処理と通信に配慮したタスクスケジューリングにより、さらなる拡張性が期待できる。