[논문 리뷰] Heavy-traffic Delay Optimality in Pull-based Load Balancing Systems: Necessary and Sufficient Conditions

Xingyu Zhou, Jian Tan외 1명|arXiv (Cornell University)|2018. 08. 21.

Advanced Queuing Theory Analysis참고 문헌 13인용 수 4

한 줄 요약

이 논문은 동적 보고 임계값을 가진 풀 기반 로드 밸런싱 시스템에서의 헤비트래픽 지연 최적성에 필요한 조건과 충분한 조건을 규명한다. 지연 최적성을 달성하기 위해 임계값이 평균 작업 수에 대해 로그적으로 증가해야 한다는 것을 증명하며, Kelly와 Laws의 추측을 해결한다. 이와 동시에, JIQ와 같은 상수 임계값 정 politicy는 헤비트래픽에서 엄격히 최적성이 떨어짐을 보여준다.

ABSTRACT

In this paper, we consider a load balancing system under a general pull-based policy. In particular, each arrival is randomly dispatched to one of the servers whose queue lengths are below a threshold, if there are any; otherwise, this arrival is randomly dispatched to one of the entire set of servers. We are interested in the fundamental relationship between the threshold and the delay performance of the system in heavy traffic. To this end, we first establish the following necessary condition to guarantee heavy-traffic delay optimality: the threshold will grow to infinity as the exogenous arrival rate approaches the boundary of the capacity region (i.e., the load intensity approaches one) but the growth rate should be slower than a polynomial function of the mean number of tasks in the system. As a special case of this result, we directly show that the delay performance of the popular pull-based policy Join-Idle-Queue (JIQ) lies strictly between that of any heavy-traffic delay optimal policy and that of random routing. We further show that a sufficient condition for heavy-traffic delay optimality is that the threshold grows logarithmically with the mean number of tasks in the system. This result directly resolves a generalized version of the conjecture by Kelly and Laws.

연구 동기 및 목표

• 헤비트래픽 하에서 풀 기반 로드 밸런싱 시스템에서 보고 임계값과 지연 성능 간의 기본적 관계를 규명하는 것.
• 헤비트래픽 지연 최적성을 달성하기 위한 임계값 증가율에 대한 필수 조건을 규명하는 것.
• 풀 기반 정책이 헤비트래픽에서 정적 상태 지연 최적성을 달성할 수 있는 충분한 조건을 설정하는 것.
• Kelly와 Laws의 추측을 일반화한 형태로, 지연 최적성에 대한 임계값 스케일링에 대해 공식적으로 해결하는 것.
• 헤비트래픽 영역에서 JIQ(상수 임계값) 정책과 최적 정책 간의 성능 격차를 정밀하게 규명하는 것.

제안 방법

• 도착 작업이 동적 임계값 이하의 큐 길이를 가진 서버로 라우팅되며, 그러한 서버가 없으면 무작위로 라우팅되는 일반적인 풀 기반 로드 밸런싱 정책을 제안한다.
• 시스템 안정성과 지연 성능을 분석하기 위해 라플라스 함수 접근법을 사용하며, 투영된 상태 노름의 드리프트에 중점을 둔다.
• 필수 조건을 도출하기 위해, 로드가 용량에 접근함에 따라 임계값이 무한히 증가해야 하며, 평균 작업 수에 대한 어떤 다항식 함수보다 느리게 증가해야 한다는 것을 보여준다.
• 충분한 조건을 확립하기 위해, 평균 작업 수에 대해 임계값이 로그적으로 증가할 경우 헤비트래픽 지연 최적성이 보장된다는 것을 증명한다.
• 큐 길이 벡터의 수직 투영과 관련된 드리프트 분석을 수행하고, 기대값 변화를 유계화하기 위해 쌍대화 기법을 사용한다.
• 헤비트래픽 매개변수 ε에 독립적으로 큰 시스템 상태에서 음의 드리프트를 보여줌으로써 라플라스 드리프트 조건을 검증한다.

실험 결과

연구 질문

• RQ1 풀 기반 로드 밸런싱 정책이 헤비트래픽 지연 최적성을 달성하기 위해 필요한 보고 임계값의 증가율은 무엇인가?
• RQ2 헤비트래픽 하에서 Join-Idle-Queue(JIQ) 정책의 지연 성능은 최적 정책과 무작위 라우팅 정책에 비해 어떻게 비교되는가?
• RQ3 지연 최적성을 달성하기 위해 임계값의 로그적 증가율이 충분한가?
• RQ4 Kelly와 Laws의 지연 최적성에 대한 임계값 스케일링 추측을 공식적으로 해결할 수 있는가?
• RQ5 헤비트래픽 영역에서 JIQ 정책과 최적 정책 간의 성능 격차는 정확히 어떻게 규명될 수 있는가?

주요 결과

• 헤비트래픽 지연 최적성에 필요한 조건은 로드 강도가 1에 접근함에 따라 보고 임계값이 무한히 증가해야 하며, 이 증가율이 시스템 내 평균 작업 수에 대한 어떤 다항식 함수보다 느려야 한다는 것이다.
• JIQ 정책(상수 임계값 r=1)의 지연 성능는 헤비트래픽에서 어떤 헤비트래픽 지연 최적 정책과 무작위 라우팅 정책 사이에 엄격히 놓여져 있다.
• 헤비트래픽 지연 최적성에 대한 충분한 조건은 시스템 내 평균 작업 수에 대해 임계값이 로그적으로 증가해야 한다는 것이다.
• 논문은 Kelly와 Laws의 추측을 일반화한 형태로 해결하며, 로그적 임계값 증가가 지연 최적성을 보장함을 확인한다.
• 라플라스 드리프트 분석을 통해 헤비트래픽 매개변수 ε에 독립적인 음의 드리프트 유계를 확립함으로써, 충분한 조건 하에서 안정성과 지연 최적성을 증명한다.
• 결과적으로, 로그적 임계값 증가율은 지연 최적성에 대해 충분하며, 가능성이 매우 높게 필수적일 것으로 암시되며, 이는 헤비트래픽에서 풀 기반 정책의 정밀한 특성화를 시사한다.