[論文レビュー] Tight Bounds for Distributed Graph Computations.

Gopal Pandurangan, Peter Robinson+1 more|arXiv (Cornell University)|Feb 26, 2016

Complexity and Algorithms in Graphs参考文献 67被引用数 10

ひとこと要約

この論文は、k台のマシンからなるモデルにおける分散グラフ計算のラウンド複雑度に対するほぼタイトな下界を、情報理論的アプローチを用いて確立している。PageRank計算の最適アルゴリズムは$\tilde{O}(n/k^2)$ラウンド、三角形列挙の最適アルゴリズムは$\tilde{O}(m/k^{5/3})$ラウンドで実行され、それらに一致する下界が示され、大規模グラフにおけるほぼ最適な通信効率が実証された。

ABSTRACT

Motivated by the need to understand the algorithmic foundations of distributed large-scale graph computations, we study some fundamental graph problems in a message-passing model for distributed computing where $k \geq 2$ machines jointly perform computations on graphs with $n$ nodes (typically, $n \gg k$). The input graph is assumed to be initially randomly partitioned among the $k$ machines. Communication is point-to-point, and the goal is to minimize the number of communication rounds of the computation. We present (almost) tight bounds for the round complexity of two fundamental graph problems, namely PageRank computation and triangle enumeration. Our tight lower bounds, a main contribution of the paper, are established through an information-theoretic approach that relates the round complexity to the minimal amount of information required by machines for correctly solving a problem. Our approach is generic and might be useful in showing lower bounds in the context of similar problems and similar models. We show a lower bound of $ ilde{\Omega}(n/k^2)$ rounds for computing the PageRank. (Notation $ ilde \Omega$ hides a ${1}/{ ext{polylog}(n)}$ factor.) We also present a simple distributed algorithm that computes the PageRank of all the nodes of a graph in $ ilde{O}(n/k^2)$ rounds (notation $ ilde O$ hides a $ ext{polylog}(n)$ factor and an additive $ ext{polylog}(n)$ term). For triangle enumeration, we show a lower bound of $ ilde{\Omega}(m/k^{5/3})$ rounds, where $m$ is the number of edges of the graph. Our result implies a lower bound of $ ilde\Omega(n^{1/3})$ for the congested clique, which is tight up to logarithmic factors. We also present a distributed algorithm that enumerates all the triangles of a graph in $ ilde{O}(m/k^{5/3})$ rounds.

研究の動機と目的

• k台のマシンによるメッセージパッシングモデルにおける分散大規模グラフ処理のアルゴリズム的基盤を理解すること。
• 基本的なグラフ問題に必要な通信ラウンド数のタイトな下界を確立すること。
• これらの下界にほぼ一致する効率的な分散アルゴリズムを設計すること。
• 類似した問題やモデルに適用可能な汎用的な情報理論的フレームワークを開発すること。

提案手法

• 通信ラウンドの複雑度を、正しい計算に必要な最小限の情報量に関連付ける情報理論的アプローチが用いられている。
• グラフ問題を正しく解くためにマシンが必要とする情報量を分析することで、下界が導出されている。
• PageRankのための分散アルゴリズムは、マシン間をスコアを反復的に伝搬させることで設計されており、効率的な負荷分散によって通信量が最小化されている。
• 三角形列挙のためには、三角形を検出・報告するための調整メカニズムが用いられ、マシン間通信が最小限に抑えられている。
• 入力グラフがk台のマシンにランダムに分割される状況と、ポイントツーポイント通信の制約を分析に組み込んでいる。
• $\tilde{O}$および$\tilde{\Omega}$表記は多対数因子を捉えており、主な漸近的挙動に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 k台のマシンからなる分散システムにおいて、PageRankを計算するために必要な通信ラウンドの最小数は何か？
• RQ2 分散グラフ計算モデルにおける三角形列挙のラウンド複雑度の下界は何か？
• RQ3 これらの問題の下界を効率的な分散アルゴリズムが達成できるか？
• RQ4 情報理論的アプローチは、分散グラフ計算におけるタイトな境界をどのように可能にするか？
• RQ5 一般の下界から、コンフスドクラウドモデルにおける三角形列挙のラウンド複雑度は何か？

主な発見

• PageRank計算の下界は$\tilde{\Omega}(n/k^2)$ラウンドであることが確立され、これはほぼタイトである。
• PageRankを$\tilde{O}(n/k^2)$ラウンドで計算するアルゴリズムが提示され、下界と多対数因子の違いを除いて一致している。
• 三角形列挙に関しては、$\tilde{\Omega}(m/k^{5/3})$ラウンドの下界が証明され、ここでmは辺の数である。
• 同じアルゴリズムが、三角形列挙についても$\tilde{O}(m/k^{5/3})$ラウンドで実行され、漸近的に下界と一致する。
• この結果により、コンフスドクラウドモデルにおける三角形列挙の下界が$\tilde{\Omega}(n^{1/3})$ラウンドであることが示され、対数因子の違いを除いてタイトである。
• 導入された情報理論的フレームワークは汎用的であり、他の分散グラフ問題の下界を導出するために応用可能である。