[論文レビュー] Round Compression for Parallel Graph Algorithms in Strongly Sublinear Space

Krzysztof Onak|arXiv (Cornell University)|Jul 23, 2018

Complexity and Algorithms in Graphs参考文献 25被引用数 17

ひとこと要約

この論文は、任意のグラフにおいて、O(n^δ)のメモリ空間を1マシンあたりに割り当てたMPC環境で、√log nのオーダーのラウンド数で大規模なマッチングまたは小規模な頂点被覆を計算する最初のMPCアルゴリズムを提示している。これは長年の対数的ラウンド数の壁を破るものであり、低次数の部分グラフを用いてピーリングアルゴリズムの複数ラウンドを圧縮し、局所的な指数的高速化を適用することで達成されている。これにより、強力な部分線形空間領域においても高速収束が可能になった。

ABSTRACT

The Massive Parallel Computation (MPC) model is a theoretical framework for popular parallel and distributed platforms such as MapReduce, Hadoop, or Spark. We consider the task of computing a large matching or small vertex cover in this model when the space per machine is $n^δ$ for $δ\in (0,1)$, where $n$ is the number of vertices in the input graph. A direct simulation of classic PRAM and distributed algorithms from the 1980s results in algorithms that require at least a logarithmic number of MPC rounds. We give the first algorithm that breaks this logarithmic barrier and runs in $ ilde O(\sqrt{\log n})$ rounds, as long as the total space is at least slightly superlinear in the number of vertices. The result is obtained by repeatedly compressing several rounds of a natural peeling algorithm to a logarithmically smaller number of MPC rounds. Each time we show that it suffices to consider a low-degree subgraph, in which local neighborhoods can be explored with exponential speedup. Our techniques are relatively simple and can also be used to accelerate the simulation of distributed algorithms for bounded-degree graphs and finding a maximal independent set in bounded-arboricity graphs.

研究の動機と目的

• 1台あたりのメモリ空間が部分線形（O(n^δ)、δ ∈ (0,1)）であるMPCモデルにおいて、長年続く対数的ラウンド複雑度の壁を打ち破ること。
• 任意のグラフにおける最大マッチングおよび最小頂点被覆の近似を、強力な部分線形空間制約下でより高速に計算するアルゴリズムを設計すること。
• データが1台のマシンに収容できないほど巨大である実用的分散システムにおいて、大規模並列処理と空間効率を活用して効率的な計算を可能にすること。
• 低次数部分グラフにおける局所的近傍探索を用いたラウンド圧縮が、MPCラウンド数を顕著に削減できることを示すこと。

提案手法

• ピーリングアルゴリズムの複数ラウンドを、対数的に少ないラウンド数でシミュレートするラウンド圧縮技術を提案する。
• 局所的近傍探索が指数的高速化で実現可能な低次数部分グラフに注目し、通信および計算のオーバーヘッドを低減する。
• 反復的に次数が低い頂点を削除する再帰的ピーリングプロセスを採用し、有界な木構造性（arboricity）を維持することで、効率的なシミュレーションを可能にする。
• GhaffariのMISアルゴリズムのシミュレーションを、誘導部分グラフ上で確率的ラベル付けを用いて行い、1反復あたりO(log Δ)ラウンドで最大独立集合を計算する。
• O(1)ラウンドで実行可能なソーティングおよびプレフィックス和プリミティブを活用し、メッセージ配布および局所的計算を管理する。
• PanconesiとSrinivasanの分解技術を適用し、局所的メモリ使用量を制限し、1マシンあたりO(n^δ)の空間制約内での実行可能性を保証する。

実験結果

リサーチクエスチョン

• RQ1 1台あたりのメモリ空間が部分線形である場合、MPCモデルにおいて古典的PRAMおよび分散アルゴリズムのラウンド複雑度を改善できるか？
• RQ2 O(n^δ)のメモリ空間を1マシンあたりに割り当てたMPCモデルにおいて、マッチングや頂点被覆といった基本的グラフ問題に対して、強力な部分対数的ラウンド複雑度を達成できるか？
• RQ3 ラウンド圧縮技術を用いて、正しくかつ効率的に複数のアルゴリズムラウンドをより少ないMPCラウンド数でシミュレートできるか？
• RQ4 低次数部分グラフにおける局所的近傍探索をどのように高速化すれば、MPCラウンド総数を削減できるか？

主な発見

• 本論文は、任意のグラフにおいて1マシンあたりO(n^δ)のメモリ空間を用い、√log nのオーダーのラウンド数で最大マッチングおよび最小頂点被覆の近似を実現するアルゴリズムを達成した。
• このアルゴリズムは、従来のPRAMおよび分散アルゴリズムのシミュレーションに必要とされたΩ(log n)ラウンドという対数的ラウンド数の壁を打ち破った。
• 主なイノベーションは、反復的ピーリングと低次数部分グラフにおける局所的高速化を用いたラウンド圧縮であり、これによりラウンド数が指数的に削減された。
• 本手法は任意のグラフに適用可能であり、やや超線形の総合メモリ空間を想定する環境下でも実用的である。特に、ソーシャルネットワークのような大規模なスパarsなグラフに適している。
• 本アプローチは、木構造性が有界なグラフにおける最大独立集合問題など、他の問題に対しても一般化可能であり、同様のラウンド複雑度の改善が得られる。
• アルゴリズムは高確率（1 - O(log n / n)）で√log nのオーダーのラウンド数で実行され、誤差は無視できるほど小さい。