[논문 리뷰] Efficient scheduling in redundancy systems with general service times

Elene Anton, Rhonda Righter외 1명|arXiv (Cornell University)|2022. 06. 21.

Advanced Queuing Theory Analysis인용 수 1

한 줄 요약

이 논문은 일반적인 서비스 시간을 가진 복제 시스템에서 스케줄링 정책을 연구하며, 첫 번째 수준에서 복제 정도에 따라 작업 클래스를 우선순위화하는(예: LRF 또는 MRF) 이중 수준 정책 프레임워크를 제안한다. 두 번째 수준에서는 상태 무관 기준(예: FCFS 또는 ROS)을 적용한다. 주요 결과로는 복제 인식 정책이 평균 응답 시간을 크게 감소시키며, 특히 고분산( NWU) 또는 동일한 복제본일 경우 기존의 단일 수준 정책(예: FCFS 또는 ROS)을 능가함을 보여준다.

ABSTRACT

We characterize the impact of scheduling policies on the mean response time in nested systems with cancel-on-complete redundancy. We consider not only redundancy-oblivious policies, such as FCFS and ROS, but also redundancy-aware policies of the form $Π$ 1 -- $Π$ 2 , where $Π$ 1 discriminates among job classes (e.g., least-redundant-first (LRF), most-redundantfirst (MRF)) and $Π$ 2 discriminates among jobs of the same class. Assuming that jobs have independent and identically distributed (i.i.d.) copies, we prove the following: (i) When jobs have exponential service times, LRF policies outperform any other policy. (ii) When service times are New-Worse-than-Used, MRF-FCFS outperforms LRF-FCFS as the variability of the service time grows infinitely large. (iii) When service times are New-Better-than-Used, LRF-ROS (resp. MRF-ROS) outperforms LRF-FCFS (resp. MRF-FCFS) in a two-server system. Statement (iii) also holds when job sizes follow a general distribution and have identical copies (all the copies of a job have the same size). Moreover, we show via simulation that, for a large class of redundancy systems, redundancy-aware policies can considerably improve the mean response time compared to redundancy-oblivious policies. We also explore the effect of redundancy on the stability region.

연구 동기 및 목표

• 취소-완료 복제를 갖는 중첩 복제 시스템에서 스케줄링 정책이 평균 응답 시간에 미치는 영향을 조사하는 것.
• FCFS 및 ROS와 같은 클래스 무관 정책에 비해 클래스 기반 복제 인식 스케줄링 정책의 성능 향상을 평가하는 것.
• 지수, NBU, NWU 분포와 같은 다양한 서비스 시간 분포 하에서 최적의 첫 번째 수준 정책(LRF, MRF 등)을 결정하는 것.
• 다양한 스케줄링 및 서비스 시간 가정 하에서 안정성 영역을 분석하는 것.
• 복제본이 i.i.d. 또는 동일할 경우 복제가 시스템 성능에 미치는 영향을 평가하는 것.

제안 방법

• 이중 수준 스케줄링 정책을 제안: Π1은 복제 정도에 따라 작업 클래스를 우선순위화하며(예: LRF, MRF), Π2는 동일한 클래스 내에서 작업을 스케줄링한다(예: FCFS, ROS).
• 서버 호환성이 복제 수준에 따라 구조화된 중첩 시스템을 분석한다.
• i.i.d. 복제본과 동일한 복제본 조건에서 성능을 비교하기 위해 이론적 분석과 시뮬레이션을 활용한다.
• 성능 순서를 확립하기 위해 확률적 지배 및 샘플 경로 추론을 적용한다.
• 지수 및 일반 서비스 시간 분포에 대해 제품형 분석과 안정성 영역 특성 분석을 활용한다.
• 다양한 Weibull 및 혼합 분포 하에서 평균 작업 수 및 응답 시간을 기반으로 시스템 성능을 평가한다.

실험 결과

연구 질문

• RQ1 복제 인식 스케줄링 정책이 클래스 무관 정책(예: FCFS, ROS)에 비해 평균 응답 시간에서 어떻게 성능을 냅니다?
• RQ2 지수, NBU, NWU 분포와 같은 다양한 서비스 시간 분포 하에서 최적의 첫 번째 수준 정책(LRF 대 MRF)은 무엇입니까?
• RQ3 서비스 시간 분산이 증가함에 따라 복제 인식 정책과 복제 무관 정책 간의 성능 격차는 커지나요?
• RQ4 다양한 스케줄링 정책 및 서비스 시간 가정 하에서 복제 시스템의 안정성 영역은 어떻게 변화합니까?
• RQ5 복제 인식 정책은 기존 정책에 비해 시스템 내 평균 작업 수를 크게 줄일 수 있나요?

주요 결과

• 서비스 시간이 지수 분포일 경우, LRF 정책이 평균 응답 시간 측면에서 모든 다른 정책보다 뛰어나다.
• 고분산(NWU) 서비스 시간 조건에서는 분산이 증가할수록 MRF-FCFS가 LRF-FCFS를 능가하며, 복제 무관 정책은 최대 2.5배 더 열 劣하다.
• NBU 서비스 시간 조건에서는 LRF-ROS와 MRF-ROS가 각각 LRF-FCFS 및 MRF-FCFS를 능가하며, 특히 이중 서버 시스템에서 두드러진다.
• 동일한 복제본 조건에서는 서비스 시간 분산이 높을수록(LRF-Π2는 혼합 지수 분포에서 q→0일 때), LRF-Π2가 Π0-Π2보다 평균 작업 수를 1.5배 이상 감소시킨다.
• 동일한 복제본과 고분산 조건(예: q=0.1인 탈선형 초지수 분포)에서는 복제 무관 정책이 LRF-Π2 정책보다 1.5배 이상 열 劣하다.
• 서비스 시간 분산이 증가함에 따라 복제 인식 정책과 복제 무관 정책 간 성능 격차는 커지며, NWU 분포에서 α=0.4일 경우 최대 2.5배까지 증가한다.