[论文解读] Efficient scheduling in redundancy systems with general service times

Elene Anton, Rhonda Righter+1 more|arXiv (Cornell University)|Jun 21, 2022

Advanced Queuing Theory Analysis被引用 1

一句话总结

本文研究具有通用服务时间的冗余系统中的调度策略，提出一种两级策略框架：第一级根据冗余度对作业类别进行优先级排序（例如 LRF 或 MRF），第二级应用与状态无关的调度机制（例如 FCFS 或 ROS）。主要结果表明，冗余感知策略显著降低了平均响应时间，尤其是在高变异性（NWU）或相同副本情况下，优于传统的单级策略（如 FCFS 或 ROS）。

ABSTRACT

We characterize the impact of scheduling policies on the mean response time in nested systems with cancel-on-complete redundancy. We consider not only redundancy-oblivious policies, such as FCFS and ROS, but also redundancy-aware policies of the form $Π$ 1 -- $Π$ 2 , where $Π$ 1 discriminates among job classes (e.g., least-redundant-first (LRF), most-redundantfirst (MRF)) and $Π$ 2 discriminates among jobs of the same class. Assuming that jobs have independent and identically distributed (i.i.d.) copies, we prove the following: (i) When jobs have exponential service times, LRF policies outperform any other policy. (ii) When service times are New-Worse-than-Used, MRF-FCFS outperforms LRF-FCFS as the variability of the service time grows infinitely large. (iii) When service times are New-Better-than-Used, LRF-ROS (resp. MRF-ROS) outperforms LRF-FCFS (resp. MRF-FCFS) in a two-server system. Statement (iii) also holds when job sizes follow a general distribution and have identical copies (all the copies of a job have the same size). Moreover, we show via simulation that, for a large class of redundancy systems, redundancy-aware policies can considerably improve the mean response time compared to redundancy-oblivious policies. We also explore the effect of redundancy on the stability region.

研究动机与目标

• 研究在具有完成时取消冗余的嵌套冗余系统中，调度策略对平均响应时间的影响。
• 评估基于类别的冗余感知调度策略相较于 FCFS 和 ROS 等无类别的策略所能带来的性能增益。
• 在不同服务时间分布（指数分布、NBU、NWU）下，确定最优第一级策略（如 LRF、MRF）。
• 在不同调度和服务时间假设下，分析系统的稳定性区域。
• 评估当副本为独立同分布或完全相同时，冗余对系统性能的影响。

提出的方法

• 提出两级调度策略：Π1 按冗余度对作业类别进行优先级排序（如 LRF、MRF），Π2 在同一类别内调度作业（如 FCFS、ROS）。
• 分析服务器兼容性按冗余级别结构化组织的嵌套系统。
• 通过理论分析与仿真比较独立同分布副本与相同副本下的性能表现。
• 运用随机优势与样本路径论证建立性能排序关系。
• 采用乘积形式分析与稳定性区域表征方法，适用于指数分布与一般服务时间分布。
• 通过平均作业数与响应时间评估系统性能，涵盖多种威布尔分布与混合分布。

实验结果

研究问题

• RQ1 在平均响应时间方面，冗余感知调度策略与无类别感知策略（如 FCFS、ROS）相比如何？
• RQ2 在不同服务时间分布（指数分布、NBU、NWU）下，最优第一级策略（LRF 与 MRF）为何种？
• RQ3 随着服务时间变异性增加，冗余感知与冗余无感知策略之间的性能差距是否扩大？
• RQ4 在不同调度策略与服务时间假设下，冗余系统的稳定性区域如何变化？
• RQ5 与传统策略相比，冗余感知策略能否显著降低系统中的平均作业数？

主要发现

• 当服务时间为指数分布时，LRF 策略在平均响应时间方面优于所有其他策略。
• 在高度变异性（NWU）服务时间下，随着变异性增加，MRF-FCFS 优于 LRF-FCFS，且冗余无感知策略的性能最差，最差可达 2.5 倍。
• 对于 NBU 服务时间，LRF-ROS 与 MRF-ROS 分别优于 LRF-FCFS 与 MRF-FCFS，尤其在双服务器系统中表现更优。
• 在相同副本情况下，当服务时间变异性较高时（如混合指数分布中 q→0），LRF-Π2 比 Π0-Π2 将平均作业数减少 1.5 倍以上。
• 在相同副本且高变异性情况下（如退化超指数分布中 q=0.1），冗余无感知策略的性能可比 LRF-Π2 策略差 1.5 倍以上。
• 冗余感知与冗余无感知策略之间的性能差距随服务时间变异性增加而扩大，对于 α=0.4 的 NWU 分布，最大差距可达 2.5 倍。