[論文レビュー] On the Power of Centralization in Distributed Processing

Kuang Xu|arXiv (Cornell University)|Mar 22, 2012

Advanced Queuing Theory Analysis参考文献 14被引用数 3

ひとこと要約

本稿では、分散システムにおける部分的中央集権化の性能向上を定量化するマルチサーバー・キューイング・モデルを提案する。フラッド・リミット解析を用いて、交通強度λ→1のとき、純粋に分散型のシステムではO(1/(1−λ))のスケーリングとなるのに対し、中央集権的リソース割り当ての割合p > 0であっても、O(log(1/(1−λ)))にまでスケーリングが改善されることを示している。これは、完全に分散型のシステムに比べて指数的改善であることを示している。

ABSTRACT

In this thesis, we propose and analyze a multi-server model that captures a performance trade-off between centralized and distributed processing. In our model, a fraction $p$ of an available resource is deployed in a centralized manner (e.g., to serve a most-loaded station) while the remaining fraction $1-p$ is allocated to local servers that can only serve requests addressed specifically to their respective stations. Using a fluid model approach, we demonstrate a surprising phase transition in the steady-state delay, as $p$ changes: in the limit of a large number of stations, and when any amount of centralization is available ($p>0$), the average queue length in steady state scales as $\log_{1/(1-p)} 1/(1-λ)$ when the traffic intensity $λ$ goes to 1. This is exponentially smaller than the usual M/M/1-queue delay scaling of $1/(1-λ)$, obtained when all resources are fully allocated to local stations ($p=0$). This indicates a strong qualitative impact of even a small degree of centralization. We prove convergence to a fluid limit, and characterize both the transient and steady-state behavior of the finite system, in the limit as the number of stations $N$ goes to infinity. We show that the sequence of queue-length processes converges to a unique fluid trajectory (over any finite time interval, as $N$ approaches infinity, and that this fluid trajectory converges to a unique invariant state $v^I$, for which a simple closed-form expression is obtained. We also show that the steady-state distribution of the $N$-server system concentrates on $v^I$ as $N$ goes to infinity.

研究の動機と目的

• 大規模システムにおける中央集権的処理と分散処理の間の性能トレードオフをモデル化・分析すること。
• 高負荷下における定常状態のキュー長スケーリングに与える部分的中央集権化の影響を定量化すること。
• わずかに中央集権化された状態（p > 0）であっても、遅延スケーリング行動にフェーズ転移が生じることを確立すること。

提案手法

• リソースの割合pが中央集権的に割り当てられ、最も負荷の高いステーションを処理する一方で、残りの1−pは局所的に分散されるマルチサーバー・キューイング・モデルを定式化する。
• システムの数がN→∞の極限における解析のために、フラッド・リミット手法を適用する。
• 一意のフラッド・トラジェクトリが存在し、定常状態の不変状態v^Iに収束することを示し、閉形式の表現を得る。
• カップリング技術とタイトネスの議論を用いて、有限システムのキュー長プロセスがフラッド・リミットに収束することを証明する。
• 定常状態分布がフラッド不変状態に収束する均一収束速度を確立する。
• 離散時間マルコフ連鎖のシミュレーションを用い、定常状態キュー長推定に埋め込まれたサンプリングにより、結果を検証する。

実験結果

リサーチクエスチョン

• RQ1 リソースの小さな割合p > 0が中央集権的に割り当てられる場合、交通強度λが1に近づくとき、定常状態キュー長はどのようにスケーリングするか？
• RQ2 中央集権化が大規模分散システムにおける遅延スケーリングに与える定性的および定量的影響は何か？
• RQ3 pが0から任意の正の値に増加する際、システムに性能のフェーズ転移が生じるか？
• RQ4 有限Nシステムの定常状態分布がN→∞のときフラッド・リミットに集中するか？
• RQ5 定常状態分布がフラッド不変状態v^Iに収束する速度は何か？

主な発見

• p > 0の場合、定常状態平均キュー長はλ→1のときlog_{1/(1−p)}(1/(1−λ))にスケーリングする。これはp=0のときのO(1/(1−λ))に比べて指数的に小さくなる。
• システムのフラッド・リミットは一意の不変状態v^Iに収束し、簡単な閉形式表現を有する。
• 有限システムのキュー長プロセスの列は、N→∞のとき任意の有限時間区間でフラッド・トラジェクトリに収束する。
• Nサーバー系の定常状態分布は、N→∞のときフラッド不変状態v^Iに集中する。
• 定常状態分布がv^Iに収束する過程は、初期条件に依存せず一様に成立し、すべてのp > 0に対してタイトである。
• シミュレーション結果は理論的予測を確認している：p=0.05、λ=0.99のとき、p=0のときと比較して平均キュー長が著しく短縮されている。