[论文解读] Redundancy Scheduling with Locally Stable Compatibility Graphs

Ellen Cardinaels, Sem Borst+1 more|arXiv (Cornell University)|May 29, 2020

Distributed systems and fault tolerance参考文献 39被引用 7

一句话总结

该论文提出了一种用于异构并行服务器系统的冗余调度框架，利用相容性图来建模作业-服务器亲和性约束。通过利用产品形式的平稳分布和弱局部稳定性，该研究在重载条件下建立了状态空间坍缩，使系统能够作为完全池化的多类单服务器系统运行，且对相容性约束具有鲁棒性。

ABSTRACT

Redundancy scheduling is a popular concept to improve performance in parallel-server systems. In the baseline scenario any job can be handled equally well by any server, and is replicated to a fixed number of servers selected uniformly at random. Quite often however, there may be heterogeneity in job characteristics or server capabilities, and jobs can only be replicated to specific servers because of affinity relations or compatibility constraints. In order to capture such situations, we consider a scenario where jobs of various types are replicated to different subsets of servers as prescribed by a general compatibility graph. We exploit a product-form stationary distribution and weak local stability conditions to establish a state space collapse in heavy traffic. In this limiting regime, the parallel-server system with graph-based redundancy scheduling operates as a multi-class single-server system, achieving full resource pooling and exhibiting strong insensitivity to the underlying compatibility constraints.

研究动机与目标

• 解决由于作业-服务器相容性约束导致的并行服务器系统性能下降问题。
• 使用一般相容性图来建模作业复制，以反映现实世界中的亲和性约束。
• 在弱局部稳定性条件下，建立重载条件下的状态空间坍缩。
• 通过完全资源池化证明系统对相容性约束的不敏感性。

提出的方法

• 使用产品形式的平稳分布来表征系统平衡行为。
• 引入相容性图以定义哪些作业可以调度到哪些服务器上。
• 应用弱局部稳定性条件，以确保在冗余情况下的系统稳定性。
• 采用状态空间坍缩将高维系统简化为低维有效系统。
• 在重载条件下分析系统，推导渐近性能行为。
• 证明系统在基于图的冗余调度下表现如同多类单服务器队列。

实验结果

研究问题

• RQ1 基于图的冗余调度在相容性约束下如何影响系统性能？
• RQ2 对于具有通用相容性图的系统，能否在重载条件下建立状态空间坍缩？
• RQ3 系统性能在多大程度上对相容性图的具体结构不敏感？
• RQ4 在相容性约束下，冗余调度是否会导致重载条件下的完全资源池化？
• RQ5 弱局部稳定性条件在重载条件下如何影响系统行为？

主要发现

• 系统在重载条件下实现完全资源池化，有效表现为多类单服务器队列。
• 平稳分布具有产品形式，支持精确的性能分析。
• 在弱局部稳定性条件下发生状态空间坍缩，简化了系统动力学。
• 性能对相容性图的具体结构不敏感。
• 系统在存在异构作业-服务器相容性约束的情况下仍保持鲁棒性和高效性。
• 基于图的相容性约束的冗余调度在重载条件下实现最优资源利用率。