[論文レビュー] Network calculus for parallel processing

George Kesidis, Bhuvan Urgaonkar+3 more|arXiv (Cornell University)|Sep 2, 2014

Cloud Computing and Resource Management参考文献 14被引用数 5

ひとこと要約

この論文は、MapReduceのようなフレームワークにおけるマッパーとリデューサー段階間の同期バリアを含む並列処理システムにおける遅延をモデル化するためにネットワーク計算を適用する。最大遅延が個々の処理経路の遅延の最大値に抑えられることを確立し、負荷分散とサービス保証下での性能を定量化するために一般化された確率的バースト性バウンドを用いる。

ABSTRACT

In this note, we present preliminary results on the use of "network calculus" for parallel processing systems, specifically MapReduce.

研究の動機と目的

• 同期バリアを伴うマルチステージ並列処理システムの性能モデルを開発すること。
• ネットワーク計算の原則を用いて単一の並列処理ステージの遅延を分析すること。
• 個々のキュー遅延およびバースト性制約を用いてエンドツーエンド遅延バウンドを定量化すること。
• Facebookデータセンターの実際のワークロードトレースを用いてモデルを検証すること。
• 定常的かつ負荷分散が行われたシステムにおいて、強い確率的バースト性仮定の下で理論的バウンドを確立すること。

提案手法

• 各々がサービスカーブ $ s_{\min,k} $ と到着プロセス $ a_k \ll b_{\text{in},k} $ を持つK個の並列キューとして単一ステージのフォーク・ジョインシステムをモデル化する。
• 各キューの遅れを表すための仮想遅延 $ \delta_k(t) = t - a_k^{-1}(d_k(t)) $ を定義する。
• システム出力 $ D(t) $ を $ A(\min_k \{ a_k^{-1}(d_k(t)) \}) $ として導出する。これは最も遅いキューにおけるバリアを反映する。
• 定常性下での確率的ワークロード行動をモデル化するために一般化された確率的バースト性バウンド（gSBB）を導入する。
• 各キューの遅延をバウンドするための畳み込み恒等式 $ (s_{\min,k} * a_k)(t) \geq a_k(t - d_{\max,k}) $ を用いる。
• 各キューの最大水平差として遅延バウンド $ d_{\max,k} $ を、入力バースト性エンベロープ $ b_{\text{in},k} $ とサービスカーブ $ s_{\min,k} $ の間で定義する。

実験結果

リサーチクエスチョン

• RQ1 ステージ間の同期バリアを伴う並列処理システムにおけるエンドツーエンド遅延バウンドは何か？
• RQ2 負荷分散が行われたシステムにおいて、ワークロードの強い確率的バースト性は遅延分布にどのように影響するか？
• RQ3 ネットワーク計算は、パイプライン化されたマッパー・シャッフル・リデューサー段階を有するMapReduceに類似したシステムに対して、取り扱いやすく一般化された性能モデルを提供できるか？
• RQ4 並列キュー間の負荷分散は、システムの最悪遅延にどのように影響するか？
• RQ5 フォーク・ジョインアーキテクチャにおいて、個々のキュー遅延と全体のシステム遅延の関係は何か？

主な発見

• 入力 $ A $ から出力 $ D $ へのエンドツーエンド遅延は $ A(t - \max_k \{ d_{\max,k} \}) $ によってバウンドされ、これはシステム遅延がすべての並列キューにおける最大遅延に等しいことを意味する。
• 強い確率的バースト性下では、$ A(t) - D(t) \geq x $ となる確率は $ \Phi(x - 2M \max_k \{ \varepsilon_k / \mu_k \}) $ によってバウンドされ、ここで $ \Phi $ は単調減少な尾関数である。
• このバウンドは、確率的ワークロード変動が生じても、システム遅延が最も遅いキューに支配されることを示している。
• モデルは、サービス能力 $ \mu_k $ に比例する負荷分散が、偏差 $ \varepsilon_k $ を有界に保ち、遅延の予測可能性を向上させることを確認している。
• Facebookデータセンターのトレースを用いた数値的評価により、gSBBモデルの妥当性が検証され、導出されたバウンドのきつさが示された。
• 結果は、ネットワーク計算が最小限の仮定で、複雑な現実世界の並列処理システムを効果的にモデル化できることを示している。