[論文レビュー] Stochastic Kronecker Graph on Vertex-Centric BSP

Ernest K. Ryu, Sean Choi|arXiv (Cornell University)|Aug 10, 2012

Graph Theory and Algorithms参考文献 5被引用数 4

ひとこと要約

本稿では、Stochastic Kronecker Graph (SKG) の構造的性質を保ちつつ、Apache Giraph などの vertex-centric BSP フレームワーク上で効率的かつ自明に並列実行可能なネットワーク生成モデルであるポisson確率的クラメールグラフ (PSKG) を提案する。頂点の出次数を独立なポアソン確率変数としてモデル化し、再帰的なエッジルーティングを用いることで、ノード間通信を排除し、ネイティブな vertex-centric 並列処理を実現する。これにより、分散グラフ処理環境における SKG よりも性能とスケーラビリティに優れた結果が得られる。

ABSTRACT

Recently Stochastic Kronecker Graph (SKG), a network generation model, and vertex-centric BSP, a graph processing framework like Pregel, have attracted much attention in the network analysis community. Unfortunately the two are not very well-suited for each other and thus an implementation of SKG on vertex-centric BSP must either be done serially or in an unnatural manner. In this paper, we present a new network generation model, which we call Poisson Stochastic Kronecker Graph (PSKG), that generate edges according to the Poisson distribution. The advantage of PSKG is that it is easily parallelizable on vertex-centric BSP, requires no communication between computational nodes, and yet retains all the desired properties of SKG.

研究の動機と目的

• Pregel や Apache Giraph などの vertex-centric BSP フレームワークにおける Stochastic Kronecker Graph (SKG) の非効率性と不自然な並列化を解消すること。
• 実世界のネットワーク特性（べき乗則の次数分布、スモールワールド特性など）を再現できる能力を保持するネットワーク生成モデルの開発。
• 出次数をポアソン分布に従わせることでエッジ生成を再定義し、真正に vertex-centric で通信を回避する並列化を実現すること。
• PSKG が理論的にも実験的にも SKG と同等の主要なグラフパターンを示すことを実証すること。

提案手法

• 頂点の出次数を、初期化行列のクラメール積に比例する平均を持つ、独立で同一分布でないポアソン確率変数としてモデル化する。
• 隣接行列を明示的に構築せずに、頂点IDの再帰的分解を用いてエッジの先端を決定し、SKG の階層的パーティショニングを模倣する。
• エッジ生成を2段階に分解する：(1) 各頂点ごとにポアソンサンプリングにより出次数を割り当て、(2) エッジごとに初期化行列からの遷移確率を用いて再帰的に宛先ノードを選択する。
• ベイズの定理を用いた多項分布とポアソン分布の条件付き同等性を利用して、各頂点での計算を独立に可能にする。
• 各頂点が自らの出次数とエッジ宛先を独立に計算する vertex-centric の実装を採用し、ノード間通信を完全に排除する。
• 理論的境界を伴う範囲ベースの頂点割り当てによる負荷分散を適用し、各ワーカー間の最大ワークロードのずれを最小化する。

実験結果

リサーチクエスチョン

• RQ1 SKG の構造的現実性を保ちつつ、vertex-centric BSP モデルでネイティブに並列実行可能なネットワーク生成モデルを設計できるか？
• RQ2 vertex-centric グラフフレームワークにおいて、ノード間通信を排除するためエッジ生成をどのように再定式化できるか？
• RQ3 分散環境における PSKG 実装の理論的負荷不均衡はどの程度で、現実的な仮定のもとで境界を定められるか？
• RQ4 度数分布、ホッププロット、特異値といった主要なネットワークパターンにおいて、PSKG が生成するグラフは SKG が生成するグラフとどの程度一致するか？

主な発見

• PSKG が生成するグラフは、同一パラメータ下で SKG と同一の次数分布、ホッププロット、スクリープロット、ネットワーク値を示し、実験的に区別できない。
• PSKG におけるワーカー間の最大負荷不均衡は [E/Nw, E/Nw + δ] の範囲に有界であり、δ ≈ √(2E/Nw) × √(log Nw + |log|log(1−α)||) と評価され、ほぼ最適な負荷分散が保証される。
• PSKG は vertex-centric BSP フレームワーク上で完全に自明な並列実行が可能であり、エッジ生成段階でのノード間通信が不要となる。
• 多項分布とポアソン分布の条件付き同等性により、理論的に SKG と同等の性質を有し、すべての望ましいネットワーク特性が保持される。
• PSKG は SKG と同等のモデリング忠実度を達成するとともに、分散環境における vertex-centric 環境で著しく効率的である。
• 提案された負荷分散アルゴリズムにより、各ワーカーに連続する頂点IDの範囲が割り当てられ、調整の必要が最小限になり、効率的かつスケーラブルな実行が可能になる。