[論文レビュー] Parallel Triangles Counting Using Pipelining

Julián Aráoz, Cristina Zoltán|arXiv (Cornell University)|Oct 12, 2015

Graph Theory and Algorithms参考文献 15被引用数 3

ひとこと要約

この論文は、メインメモリに収まらない大規模なグラフにおける三角形の数え上げを、NiMo—グラフィカルで暗黙的関数型データフロープログラミング言語—を用いて、アーキテクチャに依存しないパイプライン処理による並列アルゴリズムとして提示する。プロセッサの動的スケジューリングを近隣ノード集合のサイズに基づき、ストリーミングパイプラインにより高いリピートを回避することで、MapReduceの通信オーバーヘッドを避けつつ、効率的かつスケーラブルな三角形数え上げを実現し、単一プロセッサでも正しさが保たれる。

ABSTRACT

The generalized method to have a parallel solution to a computational problem, is to find a way to use Divide & Conquer paradigm in order to have processors acting on its own data and therefore all can be scheduled in parallel. MapReduce is an example of this approach: Input data is transformed by the mappers, in order to feed the reducers that can run in parallel. In general this schema gives efficient problem solutions, but it stops being true when the replication factor grows. We present another program schema that is useful for describing problem solutions, that can exploit dynamic pipeline parallelism without having to deal with replica- tion factors. We present the schema in an example: counting triangles in graphs, in particular when the graph do not fit in memory. We describe the solution in NiMo, a graphical programming language that implements the implicitly functional parallel data ow model of computation. The solution obtained using NiMo, is architecture agnostic and can be deployed in any parallel/distributed architecture adapting dynamically the processor usage to input characteristics.

研究の動機と目的

• 大スケールのグラフで高いリピート要因を示すMapReduceベースの三角形数え上げにおけるスケーラビリティの制限を解消すること。
• ストリーミングとパイプライン処理を活用することで、メインメモリに収まらないほど大きなグラフを効率的に処理する並列アルゴリズムを設計すること。
• 各ノードの近隣集合のサイズに基づく動的負荷分散を実現し、静的パーティショニングを避けること。
• 単一プロセッサでも正しく動作し、分散またはマルチコアアーキテクチャにおいても高並列化可能なソリューションを提供すること。
• NiMoの暗黙的関数型データフローモデルを用いたアーキテクチャに依存しない実装を提供し、多様な並列システムへの展開を可能とすること。

提案手法

• 各プロセッサがノードを担当するフィルタとして機能するパイプライン型データフローモデルを用い、受信したエッジを処理し、隣接ノードの集合を維持する。
• ノードが高優先度の近隣ノードに割り当てられていない場合にのみ、そのノードを「責任を持つノード」として割り当てる動的スケジューリング戦略を採用し、重複計算を低減する。
• パイプラインは2段階に分かれる：まず、責任を持つノードごとに隣接エッジを集約する段階。次に、三角形を形成する閉路エッジをチェックし、結果をフィルタ間で集約する段階。
• MapReduceのハッシュベースのシャッフルを、データリピートと通信コストを最小限に抑えるストリーミング型メッセージ渡しパイプラインに置き換える。
• 入力のボリュームやデータ到着パターンに応じて動作を適応させるステートフルプロセスとして、NiMoのプロセス抽象化を用いてフィルタをモデル化する。
• 再試行可能なプロセスを許容することでエラー耐性を実現でき、エッジカウントに多重集合を用いることで、マルチグラフの処理も可能に拡張できる。

実験結果

リサーチクエスチョン

• RQ1 メインメモリに収まらない大規模なグラフにおいて、三角形数え上げをどのように効率的に並列化できるか？
• RQ2 従来のMapReduceベースのアプローチと比較して、パイプライン型データフローモデルは通信コストと負荷分散の面で優れているか？
• RQ3 グラフ構造の事前知識や静的パーティショニングなしに、三角形数え上げにおける動的負荷分散をどのように実現できるか？
• RQ4 関数型でアーキテクチャに依存しないプログラミングモデル、たとえばNiMoは、グラフ問題におけるスケーラブルで正しい並列アルゴリズムをどの程度表現できるか？
• RQ5 同じアルゴリズムが単一プロセッサ環境でも正しく、かつ高並列実行環境でも効率的に動作するか？

主な発見

• 提案されたパイプライン型アルゴリズムは、動的責任割り当てによりMapReduceの高リピート要因を回避し、中間データ量を削減する。
• 各三角形が正確に1回だけカウントされるように保証し、各三角形の寄与が1つの責任を持つノードに割り当てられることで、正しく三角形数え上げが実現される。
• BSPモデルにおいてバリアなしで波面的挙動を示し、効率的な同期と負荷分散が可能になる。
• 単一プロセッサでも実行可能であり、実行スケールにかかわらず堅牢で正しく動作することが実証された。
• NiMoベースの実装のアーキテクチャに依存しない性質により、入力特性に自動的に適応する多様な並列・分散システムへの展開が可能になる。
• 集合の代わりに多重集合を用いることで、マルチグラフへの拡張が可能となり、重複する三角形を多重性を考慮した閉路エッジチェックでカウントできる。