[논문 리뷰] Uniform Bounds for Scheduling with Job Size Estimates

Ziv Scully, Isaac Grosof외 1명|arXiv (Cornell University)|2021. 10. 01.

Optimization and Search Problems참고 문헌 20인용 수 5

한 줄 요약

이 논문은 작업 크기 추정치가 있는 M/G/1 큐에 대한 새로운 스케줄링 정책인 SRPT-B를 소개한다. 이 정책은 추정치가 정확할 경우 근접한 근사 비율(비율이 1에 가까움)을 보이며, 추정 오차가 크더라도 유한한 근사 비율을 유지하는 일관성과 부드러운 성능 저하를 동시에 확보한다. 오차 범위 α와 β에 대한 사전 지식이 필요로 하지 않으며, SRPT-B의 근사 비율이 최대 3.5α/β임을 증명하고, α, β → 1일 때 균일하게 1에 수렴함을 보여, 예측이 불완전한 환경에서 스케줄링 정책의 핵심 열린 문제를 해결한다.

ABSTRACT

We consider the problem of scheduling to minimize mean response time in M/G/1 queues where only estimated job sizes (processing times) are known to the scheduler, where a job of true size $s$ has estimated size in the interval $[βs, αs]$ for some $α\geq β> 0$. We evaluate each scheduling policy by its approximation ratio, which we define to be the ratio between its mean response time and that of Shortest Remaining Processing Time (SRPT), the optimal policy when true sizes are known. Our question: is there a scheduling policy that (a) has approximation ratio near 1 when $α$ and $β$ are near 1, (b) has approximation ratio bounded by some function of $α$ and $β$ even when they are far from 1, and (c) can be implemented without knowledge of $α$ and $β$? We first show that naively running SRPT using estimated sizes in place of true sizes is not such a policy: its approximation ratio can be arbitrarily large for any fixed $β< 1$. We then provide a simple variant of SRPT for estimated sizes that satisfies criteria (a), (b), and (c). In particular, we prove its approximation ratio approaches 1 uniformly as $α$ and $β$ approach 1. This is the first result showing this type of convergence for M/G/1 scheduling. We also study the Preemptive Shortest Job First (PSJF) policy, a cousin of SRPT. We show that, unlike SRPT, naively running PSJF using estimated sizes in place of true sizes satisfies criteria (b) and (c), as well as a weaker version of (a).

연구 동기 및 목표

• 진정한 작업 크기 대비 추정된 작업 크기만 제공될 경우 스케줄링 정책에 대한 이론적 보장을 제공하지 못하는 문제를 해결한다. 특히 곱셈 오차가 존재할 경우를 고려한다.
• 작업 크기 추정치가 정확하지 않더라도 강력한 성능(낮은 평균 응답 시간)을 유지할 수 있도록 정책을 설계한다. 이때 오차 범위 α와 β에 대한 사전 지식이 필요로 하지 않다.
• 진정한 크기를 알고 있는 최적 정책인 SRPT에 대한 근사 비율을 기반으로, 추정 불확실성 하에서 스케줄링 정책을 평가하는 공식적 프레임워크를 수립한다.
• M/G/1 큐에 대해 (β, α)-유계 추정치를 갖는 정책 중 처음으로 증명 가능하게 강건하고 일관된 스케줄링 정책을 제공하며, 일관성과 부드러운 성능 저하를 모두 만족한다.
• 추정 오차 하에서 SRPT-E(추정치를 사용한 SRPT), PSJF-E(추정치를 사용한 PSJF), 그리고 제안된 SRPT-B 정책 간의 성능을 비교·분석한다.

제안 방법

• α ≥ β > 0일 때 진정한 크기 s인 작업의 추정 크기가 [βs, αs] 범위에 속하는 (β, α)-유계 추정 모델을 정의한다.
• 작업 크기 추정치가 과소평가되어 장시간 작업이 부당하게 우선순위가 높아지는 것을 방지하기 위해 '반동' 메커니즘을 통합한 SRPT의 변형인 SRPT-B를 제안한다.
• M/G/1 큐 이론과 忙한 기간 분석 결과를 활용하여 대기 시간에 대한 적분 경계를 적용해 SRPT-B의 평균 응답 시간을 분석한다.
• 순위 기반 스케줄링과 尾확률 경계 개념을 사용하여 SRPT-B와 PSJF-E의 성능을 최적의 SRPT 정책과 비교한다.
• SRPT와 PSJF의 기대 대기 시간 성분과 SRPT-B 및 PSJF-E의 기대 대기 시간 성분을 비교함으로써 근사 비율의 상한을 유도한다.
• 적분 변환 및 조건부 기대값 기법을 적용하여 추정 오차 하에서 응답 시간 비율을 경계화한다. 특히 忙한 기간 이론에서 유도된 요소 1/(1−ρ)를 활용한다.

실험 결과

연구 질문

• RQ1 작업 크기 추정 오차가 곱셈 형식일 경우, 스케줄링 정책이 일관성(α, β → 1일 때 근사 비율 →1)과 부드러운 성능 저하(모든 α ≥ β > 0에서 유한한 근사 비율)를 동시에 확보할 수 있는가?
• RQ2 왜 추정치를 사용해 단순히 SRPT를 적용하는 방식(SRPT-E)은 오차가 작더라도 근사 비율이 유한하지 않게 되는가?
• RQ3 α와 β의 지식이 없이도 유한한 근사 비율을 확보할 수 있는 정책을 설계할 수 있는가?
• RQ4 추정 오차 하에서 추정치를 사용한 PSJF(PSJF-E)의 성능은 추정치를 사용한 SRPT(SRPT-E)와 어떻게 비교되는가?
• RQ5 M/G/1 큐에서 오직 추정된 작업 크기만을 사용하는 정책이 달성할 수 있는 최고의 근사 비율은 얼마인가?

주요 결과

• SRPT-E는 어떤 β < 1에서도 근사 비율이 유계가 아니며, α가 1에 가까워도 마찬가지로, 실용적으로는 부적합하다.
• SRPT-B는 근사 비율이 최대 3.5α/β이며, α와 β가 1에 수렴함에 따라 균일하게 1에 수렴하여 일관성과 부드러운 성능 저하를 모두 만족한다.
• PSJF-E는 최적의 PSJF 정책에 대해 근사 비율이 최대 1.5α/β이며, 추정 오차가 증가함에 따라 성능이 부드럽게 저하된다.
• 분석 결과, PSJF-E의 평균 응답 시간은 PSJF의 평균 응답 시간의 α/β 배 이내로 경계되며, 이 경계는 대기 시간 성분의 적분 비교를 통해 유도된다.
• 논문은 SRPT-E가 장시간 작업을 과소평가할 경우 성능이 떨어지는 경험적 관찰에 대한 이론적 설명을 제공하며, 그 근사 비율에 하한을 증명한다.
• 결과적으로 PSJF-E는 더 단순한 구현과 많은 경우 더 탴실한 이론적 경계를 제공하므로, SRPT-B에 대한 강력한 실용적 대안임을 보여준다.