[论文解读] On the Power of Centralization in Distributed Processing

Kuang Xu|arXiv (Cornell University)|Mar 22, 2012

Advanced Queuing Theory Analysis参考文献 14被引用 3

一句话总结

本文提出了一种多服务器排队模型，量化了在分布式系统中部分集中化带来的性能提升。通过流极限分析，证明即使集中化资源分配的比例 p > 0，也能将稳态队列长度的标度从 O(1/(1−λ)) 降低至 O(log(1/(1−λ)))，当流量强度 λ→1 时，表明相比完全分布式的系统，性能实现了指数级提升。

ABSTRACT

In this thesis, we propose and analyze a multi-server model that captures a performance trade-off between centralized and distributed processing. In our model, a fraction $p$ of an available resource is deployed in a centralized manner (e.g., to serve a most-loaded station) while the remaining fraction $1-p$ is allocated to local servers that can only serve requests addressed specifically to their respective stations. Using a fluid model approach, we demonstrate a surprising phase transition in the steady-state delay, as $p$ changes: in the limit of a large number of stations, and when any amount of centralization is available ($p>0$), the average queue length in steady state scales as $\log_{1/(1-p)} 1/(1-λ)$ when the traffic intensity $λ$ goes to 1. This is exponentially smaller than the usual M/M/1-queue delay scaling of $1/(1-λ)$, obtained when all resources are fully allocated to local stations ($p=0$). This indicates a strong qualitative impact of even a small degree of centralization. We prove convergence to a fluid limit, and characterize both the transient and steady-state behavior of the finite system, in the limit as the number of stations $N$ goes to infinity. We show that the sequence of queue-length processes converges to a unique fluid trajectory (over any finite time interval, as $N$ approaches infinity, and that this fluid trajectory converges to a unique invariant state $v^I$, for which a simple closed-form expression is obtained. We also show that the steady-state distribution of the $N$-server system concentrates on $v^I$ as $N$ goes to infinity.

研究动机与目标

• 建模并分析大规模系统中集中式处理与分布式处理之间的性能权衡。
• 量化在高负载条件下，部分集中化对稳态队列长度标度的影响。
• 证明即使集中化程度极低（p > 0），也会导致延迟标度行为发生相变。

提出的方法

• 构建一个多服务器排队模型，其中 p 比例的资源被集中分配以服务负载最高的站点，而剩余的 1−p 比例资源则在本地分布式使用。
• 采用流极限方法，分析当站点数量 N→∞ 时的系统行为。
• 推导出唯一一条流轨迹，其收敛至一个稳态不变状态 v^I，并给出其闭式表达式。
• 利用耦合技术与紧致性论证，证明有限系统中的队列长度过程收敛至流极限。
• 建立稳态分布对流不变状态的统一收敛速率。
• 通过离散时间马尔可夫链的仿真，并嵌入采样方法以估计稳态队列长度，验证了结果。

实验结果

研究问题

• RQ1 当少量资源 p > 0 被集中分配时，稳态队列长度如何随流量强度 λ 变化？
• RQ2 集中化对大规模分布式系统中延迟标度的定性与定量影响是什么？
• RQ3 当 p 从 0 增加到任意正值时，系统是否表现出性能的相变？
• RQ4 有限 N 系统的稳态分布是否在 N→∞ 时集中于流极限？
• RQ5 稳态分布对流不变状态的收敛速率是多少？

主要发现

• 当 p > 0 时，稳态平均队列长度在 λ→1 时的标度为 log_{1/(1−p)}(1/(1−λ))，相比 p=0 时的 O(1/(1−λ)) 标度，呈指数级减小。
• 系统的流极限收敛至唯一不变状态 v^I，其具有简洁的闭式表达式。
• 有限系统队列长度过程的序列在 N→∞ 时，于任意有限时间区间内收敛至流轨迹。
• N 服务器系统的稳态分布随着 N→∞ 而集中于流不变状态 v^I。
• 稳态分布对 v^I 的收敛在所有初始条件下均一致且对所有 p > 0 均保持紧致。
• 仿真结果验证了理论预测：当 p=0.05 且 λ=0.99 时，平均队列长度相比 p=0 显著降低。