[논문 리뷰] Optimal Scheduling and Exact Response Time Analysis for Multistage Jobs

Ziv Scully, Mor Harchol‐Balter외 1명|arXiv (Cornell University)|2018. 05. 17.

Advanced Queuing Theory Analysis참고 문헌 17인용 수 6

한 줄 요약

이 논문은 작업 크기가 부분적으로 알려진 환경에서의 스케줄링을 위한 모델로 다단계 작업을 제안한다. 다단계 작업은 각 단계의 크기가 알려져 있지 않지만 마르코프 성질을 가지며, 스케줄러는 현재 단계와 단계 연령을 관찰한다. 다단계 기티누스 정책(MGP)을 제안하며, 단일 작업 수익(SJP)을 기반으로 단계별 기티누스 지수를 계산하여 최적의 스케줄링을 달성한다. 또한 MGP에 대한 폐쇄형 응답 시간 분석을 제공하여, 조기 크기 정보를 활용함으로써 블라인드 정책 대비 평균 응답 시간을 최대 28% 감소시킴을 보여준다.

ABSTRACT

Scheduling to minimize mean response time in an M/G/1 queue is a classic problem. The problem is usually addressed in one of two scenarios. In the perfect-information scenario, the scheduler knows each job's exact size, or service requirement. In the zero-information scenario, the scheduler knows only each job's size distribution. The well-known shortest remaining processing time (SRPT) policy is optimal in the perfect-information scenario, and the more complex Gittins policy is optimal in the zero-information scenario. In real systems the scheduler often has partial but incomplete information about each job's size. We introduce a new job model, that of multistage jobs, to capture this partial-information scenario. A multistage job consists of a sequence of stages, where both the sequence of stages and stage sizes are unknown, but the scheduler always knows which stage of a job is in progress. We give an optimal algorithm for scheduling multistage jobs in an M/G/1 queue and an exact response time analysis of our algorithm.

연구 동기 및 목표

• 광고 서빙이나 수리 시스템과 같이 작업 크기가 부분적으로 알려진 실제 스케줄링 시나리오를 모델링하기 위해, 단계별 서비스 요구 사항을 가진 다단계 작업을 도입한다.
• 스케줄러가 현재 단계와 단계 연령을 모두 고려하여 의사결정을 내릴 수 있도록, M/G/1 큐 내 다단계 작업에 대한 최적 스케줄링 정책을 개발한다.
• 기존의 일반적인 기티누스 정책에서 알려진 폐쇄형 해가 없는 점을 극복하기 위해, 제안된 정책에 대한 정확한 폐쇄형 응답 시간 분석을 제공한다.
• 다단계 구조를 활용함으로써 블라인드 정책(단계 수준 정보를 忽시하는 정책)에 비해 평균 응답 시간을 크게 감소시킬 수 있음을 입증한다.

제안 방법

• 각 작업이 알려지지 않은 마르코프 성질을 가진 단계의 순서를 거쳐가는 다단계 작업이라는 새로운 작업 모델을 제안한다. 스케줄러는 현재 단계와 해당 단계 내 연령을 관찰한다.
• 다단계 작업의 기티누스 지수를 재표현하기 위해 단일 작업 수익(SJP) 공식을 도입하여, 단계별 우선순위의 계산이 가능하도록 한다.
• 현재 단계와 해당 단계 내 연령을 기반으로 가장 높은 SJP를 가진 작업을 선택하는 다단계 기티누스 정책(MGP)을 개발한다.
• 시스템을 단계 수준 기여도로 분해하고 SJP 성질을 활용하여 MGP에 대한 폐쇄형 응답 시간 분석을 유도한다.
• SJP 프레임워크를 활용해 다양한 스케줄링 정책을 비교하고, 부분 정보 하에서의 최적성 증명을 수행한다.
• 모의 실험과 블라인드 정책(BGP 등)에 대한 분석적 비교를 통해 단계 수준 정보 활용으로 인한 성능 향상을 정량화한다.

실험 결과

연구 질문

• RQ1 스케줄러가 단계 진행을 통해 잔여 크기의 부분 정보를 확보할 수 있는 다단계 작업에 대해 최적의 스케줄링 정책을 설계할 수 있는가?
• RQ2 스토케스틱 단계와 결정론적 단계의 순서가 스케줄링 성능과 평균 응답 시간에 어떤 영향을 미치는가?
• RQ3 작업 크기의 조기 학습(예: 수리 난이도)이 총 작업 연령에만 의존하는 경우에 비해 스케줄링 효율을 얼마나 향상시킬 수 있는가?
• RQ4 다단계 작업 모델에서 최적 정책에 대한 폐쇄형 응답 시간 분석을 도출할 수 있는가?
• RQ5 총 연령 외에 단계 수준 정보를 활용함으로써 블랙박스로 간주하는 것에 비해 얼마나 많은 성능 향상이 달성될 수 있는가?

주요 결과

• 다단계 기티누스 정책(MGP)은 단일 작업 수익(SJP)을 기반으로 계산된 단계별 기티누스 지수를 사용하여 다단계 작업에 대해 최적의 스케줄링을 달성한다.
• 작업 단계 순서가 변할 경우, MGP는 고부하 상황에서 최대 21% 향상된 평균 응답 시간과 중부하 상황에서 최대 12% 향상된 평균 응답 시간을 BGP(Blinde Gittins Policy)보다 달성한다.
• 조기 크기 정보(예: 수리 난이도)가 제공될 경우, 고부하 상황에서 MGP는 최대 28% 향상된 평균 응답 시간과 중부하 상황에서 최대 17% 향상된 평균 응답 시간을 BGP보다 달성한다.
• 동일한 총 크기 분포를 가진 작업들에 대해, 변동성이 더 큰 단계(즉, 스토케스틱 단계)를 먼저 배치하는 것이 평균 응답 시간을 개선함을 증명한다.
• SJP를 활용하여 MGP에 대한 폐쇄형 응답 시간 분석을 유도하였으며, 이는 부분 정보 환경에서 기존 기티누스 정책에 대해 알려진 바가 없던 정확한 성능 평가를 가능하게 한다.
• 다단계 구조를 忽시할 경우 비최적 스케줄링이 발생하며, 실제 워크로드에서 단계 수준 정보를 활용함으로써 상당한 성능 향상이 달성됨을 입증한다.