[論文レビュー] A Generalized Performance Evaluation Framework for Parallel Systems with Output Synchronization

Wasiur R. KhudaBukhsh, Sounak Kar+2 more|arXiv (Cornell University)|Dec 16, 2016

Cloud Computing and Resource Management参考文献 23被引用数 3

ひとこと要約

本稿は、出力同期を伴う並列システムにおける性能評価のための一般化されたマコフ加法過程（MAP）フレームワークを提案する。このフレームワークは、作業を継続するサーバーおよびブロッキングサーバーの両方における定常状態待ち時間の尾確率を評価することに焦点を当て、マルティングルール技術を用いて計算可能な上限を導出する。非再生到着、フェーズ型サービス行動、マコフ変調系への応用が行われ、シミュレーションおよび実データのキャリブレーションにより検証されている。

ABSTRACT

Frameworks, such as MapReduce and Hadoop are abundant nowadays. They seek to reap benefits of parallelization, albeit subject to a synchronization constraint at the output. Fork-Join (FJ) queuing models are used to analyze such systems. Arriving jobs are split into tasks each of which is mapped to exactly one server. A job leaves the system when all of its tasks are executed. As a metric of performance, we consider waiting times for both work-conserving and non-work conserving server systems under a mathematical set-up general enough to take into account possible phase-type behavior of the servers, and as suggested by recent evidences, bursty arrivals. To this end, we present a Markov-additive process framework for an FJ system and provide computable bounds on tail probabilities of steady-state waiting times, for both types of servers separately. We apply our results to three scenarios, namely, non-renewal (Markov-modulated) arrivals, servers showing phase-type behavior, and Markov-modulated arrivals and services. We compare our bounds against estimates obtained through simulations and also provide a theoretical conceptualization of provisions in FJ systems. Finally, we calibrate our model with real data traces, and illustrate how our bounds can be used to devise provisions.

研究の動機と目的

• 出力同期を伴う並列システムにおける性能評価の課題に取り組むこと。ここでは、ジョブの完了がすべてのタスクの終了に依存する。
• 標準の再生過程およびi.i.d.仮定では捉えきれない、バースト性のある到着や依存するサービス時間といった複雑なシステム行動をモデル化すること。
• 非再生到着、フェーズ型サービス分布、およびマコフ変調入力・サービスを扱える統一的な数学的フレームワークを構築すること。
• 定常状態待ち時間の尾確率に対する計算可能な上界を提供することにより、性能プロビジョニングおよびシステム設計を可能にすること。
• このようなシステムにおける動的負荷管理のための反応的および予測的プロビジョニングを概念化し、適用可能にする。

提案手法

• 著者らは、到着およびサービス時間の状態依存的ダイナミクスを捉えるために、マコフ加法過程（MAP）を用いてシステムをモデル化する。
• 累積量母関数と遷移カーネルのスペクトル的性質を用いたマルティングルールに基づくアプローチを導出し、尾確率を上限づける。
• 可算でない状態空間に対し、ペロン＝フロベニウスの定理を活用して、主要固有値および関連する固有関数の存在と正値性を保証する。
• 主な構成要素には、正規化された右固有関数 $ r(c, \theta) $、累積量関数 $ \zeta_k(s) $、および尾事象を上限づけるための本質的上界 $ \phi(s) $ が含まれる。
• マコフ過程 $ M_k(s) = \exp(sY_k - k\zeta(s))r(C_k,s) $ に対してドーブの最大不等式を適用し、待ち時間の尾確率に対する指数的上限が得られる。
• このアプローチは実データトレースにキャリブレーションされ、3つのシナリオに適用されている：マコフ変調到着、フェーズ型サービス、および共同でマコフ変調される到着とサービス。

実験結果

リサーチクエスチョン

• RQ1 非再生および依存する到着／サービスプロセスを伴う出力同期を伴う並列システムに対して、一般化された性能評価フレームワークをどのように構築できるか？
• RQ2 作業を継続するサーバーおよびブロッキングサーバーの両モデルにおける定常状態待ち時間の尾確率に対する計算可能な上界は何か？
• RQ3 マコフ加法過程フレームワークを、バースト性のある到着およびフェーズ型サービス行動をモデル化するためにどのように特殊化できるか？
• RQ4 理論的上限が、シミュレーションからの経験的補完的累積分布関数（CCDF）とどの程度一致するか？
• RQ5 性能最適化のため、このフレームワーク内で反応的および予測的プロビジョニングをどのように概念化し、適用できるか？

主な発見

• このフレームワークは、マルティングルール技術およびスペクトル解析を用いて、作業を継続するサーバーおよびブロッキングサーバーの両方における定常状態待ち時間の尾確率に対する計算可能な上界を提供する。
• i.i.d.指数分布サービス時間（レート $ \mu_i $）のケースでは、待ち時間 $ V $ のMGFは $ \mathrm{E}[e^{\theta V}] = \sum_{S \neq \emptyset} (-1)^{|S|+1} \frac{\sum_{i \in S} \mu_i}{\sum_{i \in S} \mu_i - \theta} $ であり、平均待ち時間は $ \mathrm{E}[V] = \sum_{S \neq \emptyset} (-1)^{|S|+1} \frac{1}{\sum_{i \in S} \mu_i} $ である。
• シミュレーションから得た経験的補完的累積分布関数（CCDF）と理論的尾確率上限が、3つの応用シナリオすべてでよく一致している。
• モデルは実データトレースに成功裏にキャリブレーションされ、システムプロビジョニングにおける実用的妥当性が示された。
• このフレームワークにより、反応的および予測的プロビジョニングの概念化が可能となり、例示の目的で簡単な反応的プロビジョニングが提示された。
• 導出された上限が、複雑で現実的なトラフィックおよびサービスパターン下での性能評価に有効であることが示された。