[論文レビュー] When Distributed Computation is Communication Expensive

David P. Woodruff, Qin Zhang|arXiv (Cornell University)|Apr 16, 2013

Complexity and Algorithms in Graphs参考文献 20被引用数 32

ひとこと要約

この論文は、分散システムにおける基本的な統計的およびグラフ問題の正確な計算が通信に非効率的であることを示しており、すべてのデータを中央サイトに送信するのとほぼ同じ通信量を要する。通信を効率化するため、著者らは近似、データレイアウト最適化、入力分布の活用を提唱し、ランダム化プロトコルがO(kn^{3/2} log²n)ビットの通信でグラフ径値を加法誤差2以内に近似できることを示している。

ABSTRACT

We consider a number of fundamental statistical and graph problems in the message-passing model, where we have $k$ machines (sites), each holding a piece of data, and the machines want to jointly solve a problem defined on the union of the $k$ data sets. The communication is point-to-point, and the goal is to minimize the total communication among the $k$ machines. This model captures all point-to-point distributed computational models with respect to minimizing communication costs. Our analysis shows that exact computation of many statistical and graph problems in this distributed setting requires a prohibitively large amount of communication, and often one cannot improve upon the communication of the simple protocol in which all machines send their data to a centralized server. Thus, in order to obtain protocols that are communication-efficient, one has to allow approximation, or investigate the distribution or layout of the data sets.

研究の動機と目的

• k台の分散マシンを備えたメッセージパス方式モデルにおける、基本的な統計的およびグラフ的問題の通信複雑度を分析すること。
• このような問題の正確な計算が、ナードの中央集権的プロトコルと同等の通信コストを要することを示し、大規模環境では実用的でないことを明らかにすること。
• 通信効率を達成するための緩和策——特に近似、最適化されたデータレイアウト、分布に配慮した設計——の必要性を動機づけること。
• 特にグラフ径値および接続性関連問題に対して、通信効率の良いランダム化プロトコルを提示すること。
• 分散システムにおける通信コスト、データ分布、プロトコルのラウンド複雑度の相互作用を調査すること。

提案手法

• k個のサイトが点対点メッセージを交換することで、データの集合に対して関数を計算する通信複雑度フレームワークとして、メッセージパスモデルを形式化すること。
• グラフ径値、接続性、周波数モーメントなどの問題の正確な計算がΩ(km)ビットの通信を要することを示す下界を証明し、すべてのデータを中央サイトに送信するナードのプロトコルと一致することを示すこと。
• Θ(√n log n)個のランダムに抽出された頂点からBFS木を構築し、次数に基づくエッジ収集を用いて、加法誤差2以内にグラフ径値を近似するランダム化プロトコルを設計すること。
• スケッチ技術とF₀推定を用いて、O(kn log n)の通信量で各サイト間で頂点次数を近似的に計算し、低次元頂点の効率的同定を可能にすること。
• プロトコルを分散的に実装する：まず最初のサイトが頂点をサンプリングし、他のサイトと協調してBFS構築を実行し、その後低次元エッジを最初のサイトに送信して集約すること。
• 既知のRAMベースのスパニヤ構築アルゴリズム（例：[8] より）を用い、通信オーバーヘッドが限定的なメッセージパスモデルに適応すること。

実験結果

リサーチクエスチョン

• RQ1 kサイトのメッセージパスモデルにおける、基本的な統計的およびグラフ的問題の正確な解を計算するために必要な最小通信量は何か？
• RQ2 近似を用いることで、分散計算における通信コストを著しく削減可能であるか。もしそうなら、どのような条件下で可能か？
• RQ3 エッジの重複や頂点のクラスタリングなどのデータレイアウトや分布は、分散グラフ問題の通信複雑度にどのように影響するか？
• RQ4 近似径値のような問題について、ラウンド効率の良いプロトコルを設計可能か。また、ラウンド非効率なプロトコルの通信下界に一致するか？
• RQ5 入力データの分布的性質（例：スパarsity、パワー則）は、分散計算における通信効率にどの程度影響を与えるか？

主な発見

• kサイトのメッセージパスモデルにおけるグラフ径値、接続性、周波数モーメントの正確な計算にはΩ(km)ビットの通信が必要であり、これはすべてのデータを中央サイトに送信するコストと一致する。
• グラフ径値に関して、ランダム化プロトコルは99％の成功率で加法誤差2以内の近似を達成し、O(kn^{3/2} log²n)ビットの通信量を要する。これはナードのアプローチに比べ顕著な改善である。
• 近似径値のプロトコルは、Θ(√n log n)個の頂点をサンプリングし、それらからBFS木を構築することに依存しており、通信量の大部分はサイト間でのBFS構築に費やされる。
• スケッチ技術を用いた1ラウンドの二部グラフ性判定プロトコルが存在し、通信複雑度がÕ(kn)ビットに抑えられ、ラウンド効率の可能性を示唆している。
• 頂点次数（F₀）の計算において、2倍要因以内の近似で通信コストがO(kn log n)ビットに抑えられ、スパニヤ構築に必要な低次元頂点の効率的同定が可能になる。
• 本論文は、無制限の局所計算が可能であっても、通信下界がタイトであることを確立しており、分散システムにおける通信が根本的なボトル neck であることを示している。