[논문 리뷰] Scheduling with Service-Time Information: The Power of Two Priority Classes

Yan Chen, Jing Dong|arXiv (Cornell University)|2021. 02. 16.

Advanced Queuing Theory Analysis참고 문헌 27인용 수 7

한 줄 요약

이 논문은 단일 및 다중 서버 큐에서 near-optimal 성능을 달성하기 위해 서비스 시간 정보를 활용하는 이중 우선순위 스케줄링 규칙을 제안한다. 서비스 시간 분포의 尾행동에서 유도된 임계값을 기반으로 작업을 분류함으로써, 심한 교통 혼잡 상황에서도 최적의 나머지 처리 시간(Shortest Remaining Processing Time, SRPT) 정책에 가까운 대기열 길이 스케일링을 달성한다. 이는 서비스 시간 추정치가 불완전하더라도 가능하다.

ABSTRACT

Utilizing customers' service-time information, we study an easy-to-implement scheduling policy with two priority classes. By carefully designing the classes, the two-class priority rule achieves near-optimal performance. In particular, for a single-server queue, as the traffic intensity approaches 1, the policy achieves a scaling for the queue length processes that is similar to the shortest remaining processing time first policy. Our analysis quantifies how the tail of the service time distribution affects the benefits one can gain from service-time-based scheduling policies. When the service times are misspecified, we further quantify how imperfect observation of the service time affects the performance of the two-class priority rule through both theoretical and numerical analysis. Our results demonstrate the robustness of the two-class priority rule. Specifically, even with imperfect service-time information, the two-class priority rules can still achieve substantial performance improvement over the first come first served.

연구 동기 및 목표

• 서비스 시간 정보를 활용하여 과부하 상태의 대기열에서 시스템 성능을 크게 향상시키는 실용적인 스케줄링 정책을 설계하는 것.
• SRPT의 구현 과제(예: 동적 우선순위 재정렬 및 실시간 서비스 시간 접근성 부족)를 해결하기 위해 이중 우선순위 구조를 제안하는 것.
• 서비스 시간 분포의 꼬리 행동이 서비스 시간 기반 스케줄링의 성능 향상에 미치는 영향을 정량화하는 것.
• 특히 FCFS 및 기타 기준 정책과의 비교에서, 서비스 시간 관측치에 오차가 있을 경우 이중 우선순위 규칙의 강건성을 평가하는 것.
• 단일 서버에서의 분석을 다중 서버 큐로 확장하고, 제안된 정책의 확장성을 입증하는 것.

제안 방법

• 서비스 시간에 대한 임계값을 사용해 이중 우선순위 클래스를 정의: 이 허용 기준 이하의 작업은 고우선순위, 나머지는 저우선순위.
• 실천 가능성과 구현 용이성을 확보하기 위해 각 클래스 내에서 비선점, FCFS 방식을 적용.
• 서비스 시간 분포의 꼬리 누적분포함수(tail CDF)를 기반으로 임계값을 유도하며, 특히 $ K(\rho, F) = \bar{F}((1-\rho)^{-(1-\alpha)}) $ 를 사용하고 $ \alpha = 0.05 $ 로 설정하여 심한 교통 혼잡 상황에서의 최적성 확보.
• 상태공간 수축(STATE-SPACE COLLAPSE) 추론을 적용해 심한 교통 혼잡 상황($ \rho \to 1 $)에서 대기열 길이 과정이 저우선순위 클래스에 의해 지배되며, 이 클래스의 평균 서비스 시간이 스케일링을 결정함을 보임.
• 이론적 심한 교통 점근 분석을 통해 저우선순위 클래스의 평균 서비스 시간이 발산할 경우, 이중 우선순위 규칙이 SRPT와 유사한 대기열 길이 스케일링을 달성함을 입증.
• 단일 및 다중 서버 M/GI/1 및 M/M/c 큐에서 이중 우선순위 규칙을 FCFS, FB(전경-배경), SJF(가장 짧은 작업 우선)와 비교하기 위한 수치 실험 수행.

실험 결과

연구 질문

• RQ1 심한 교통 혼잡 상황에서 단일 서버 큐에서 단순한 이중 우선순위 규칙이 최적의 SRPT 정책에 가까운 성능을 달성할 수 있는 방법은 무엇인가?
• RQ2 이중 우선순위 클래스로 작업을 분류하기 위한 최적의 임계값은 무엇이며, 이는 서비스 시간 분포의 꼬리 행동에 어떻게 의존하는가?
• RQ3 서비스 시간 분포의 꼬리 감쇠 속도는 서비스 시간 기반 스케줄링의 성능 향상에 어떤 영향을 미치는가?
• RQ4 서비스 시간 예측 오차나 잘못된 특정화에 대해 이중 우선순위 규칙의 강건성은 어떠한가?
• RQ5 이중 우선순위 규칙은 다중 서버 시스템에서도 뛰어난 성능을 달성할 수 있으며, 확장성과 실용성 측면에서 SJF 및 FCFS와 비교해 어떻게 되는가?

주요 결과

• 심한 교통 혼잡 상황에서 이중 우선순위 규칙은 SRPT와 점점 유사한 대기열 길이 스케일링을 달성하며, 특히 저우선순위 클래스의 평균 서비스 시간이 $ \rho \to 1 $ 에서 발산할 경우에 그렇다.
• 중요한 꼬리 분포를 가진 서비스 시간 분포(예: 형상 2.5인 파레토 분포)에서는 M/GI/1에서 $ \rho = 0.95 $ 시점에 FCFS 대비 유의미하게 낮은 안정 상태 평균 대기열 길이를 달성한다—예를 들어 7.29 대비 17.20.
• 노이즈가 있는 서비스 시간 예측(정규분포 오차 $ \epsilon \sim N(0, 0.3^2) $) 조건 하에서도 이중 우선순위 규칙은 FCFS 및 FB를 능가하며, 특히 실패율이 증가하는 분포(예: Weibull(1.5,1.5))에서는 FB가 FCFS보다 성능이 열 劣하다.
• 다중 서버 시스템(예: $ c=100 $)에서는 $ \rho = 0.99 $ 시점에 FCFS의 평균 대기열 길이 186.4를 이중 우선순위 규칙이 124.5로 감소시켜 SJF의 114.5에 가까워지며, 실제로는 훨씬 더 쉽게 구현 가능하다.
• 성능 향상은 특히 심한 교통 혼잡 상황과 서비스 시간 분포의 무거운 꼬리일 경우에 가장 두드러지며, 이는 임계값이 점점 더 긴 작업들을 저우선순위 클래스로 분리하도록 설정되기 때문이다.
• 이 정책은 서비스 시간 잘못된 특정화에 강건하다: 노이즈 있는 예측 조건 하에서도 여전히 FCFS에 비해 상당한 성능 향상을 유지하며, 실세계 환경에서의 실용성과 타당성을 입증한다.