[논문 리뷰] Doubly Exponential Solution for Randomized Load Balancing Models with General Service Times

Quan‐Lin Li|arXiv (Cornell University)|2010. 08. 23.

Advanced Queuing Theory Analysis참고 문헌 30인용 수 3

한 줄 요약

이 논문은 일반적인 서비스 시간을 가진 랜덤화된 로드 밸런싱 모델을 분석하기 위해 새로운 보조 변수 방법을 제안하며, 밀도에 따라 변하는 점프 마코프 과정을 통해 유한하지 않은 적분미분 방정식계를 수립한다. 이는 고정점 해가 이중 지수 형태로 닫힌 형태로 존재함을 증명하며, 이는 꼬리가 두꺼운 서비스 시간 조건에서도 유지됨을 보이며, 일반적인 서비스 가정 하에 지수 수렴성과 리프시츠 연속성을 확인한다.

ABSTRACT

In this paper, we provide a novel and simple approach to study the supermarket model with general service times. This approach is based on the supplementary variable method used in analyzing stochastic models extensively. We organize an infinite-size system of integral-differential equations by means of the density dependent jump Markov process, and obtain a close-form solution: doubly exponential structure, for the fixed point satisfying the system of nonlinear equations, which is always a key in the study of supermarket models. The fixed point is decomposited into two groups of information under a product form: the arrival information and the service information. based on this, we indicate two important observations: the fixed point for the supermarket model is different from the tail of stationary queue length distribution for the ordinary M/G/1 queue, and the doubly exponential solution to the fixed point can extensively exist even if the service time distribution is heavy-tailed. Furthermore, we analyze the exponential convergence of the current location of the supermarket model to its fixed point, and study the Lipschitz condition in the Kurtz Theorem under general service times. Based on these analysis, one can gain a new understanding how workload probing can help in load balancing jobs with general service times such as heavy-tailed service.

연구 동기 및 목표

• 꼬리가 두꺼운 서비스 시간이 슈퍼마켓 모델에서 이중 지수 구조를 파괴하는지 여부라는 열린 문제를 해결하기 위해.
• 더 현실적인데 분석적으로 도전적인 일반(비지수형) 서비스 시간을 가진 슈퍼마켓 모델을 위한 분석 가능하고 실용적인 프레임워크를 개발하기 위해.
• 일반적인 서비스 시간 분포 하에서 무한 인구 수 한계에서 고정점의 존재성과 구조를 확립하기 위해.
• 일반적인 서비스 시간 분포 하에서 시스템 상태가 고정점으로 수렴하는 지수 수렴성을 증명하고, 쿠르츠 유형의 확산 근사에 필요한 리프시츠 조건을 검증하기 위해.
• 서비스 시간이 꼬리가 두꺼운 경우에도 워크로드 프로빙이 여전히 효과적으로 작용함을 보이며, 데이터 센터 및 멀티코어 시스템의 실세계 로드 밸런싱에 대한 새로운 통찰을 제공하기 위해.

제안 방법

• 슈퍼마켓 모델에서 대기열 길이와 잔여 서비스 시간의 공동 역학을 모델링하기 위해 보조 변수 방법을 적용한다.
• 밀도에 따라 변하는 점프 마코프 과정으로 시스템을 모델링하여 무한 크기의 적분미분 방정식계를 구성한다.
• 비선형 방정식계를 풀어 시스템의 고정점을 도출하며, 이가 도착 정보와 서비스 정보의 곱 형태 분해를 허용함을 보인다.
• 유체 근사에서의 이동 함수의 리프시츠 연속성을 확립하여 쿠르츠 정리를 이용한 확산 근사 적용을 가능하게 한다.
• 유체 근사와 지수 수렴 분석을 활용하여 시스템 내 작업의 기대 체류 시간을 근사한다.
• 수치 예제를 통한 검증을 통해 비지수형 서비스 시간 분포에 대해서도 이 방법의 효과성을 입증한다.

실험 결과

연구 질문

• RQ1 서비스 시간이 꼬리가 두꺼운 경우 슈퍼마켓 모델의 고정점에서 이중 지수 구조가 유지되는가?
• RQ2 일반(비단계형) 서비스 시간 분포를 가진 슈퍼마켓 모델에서 고정점에 대해 닫힌 형태의 해를 유도할 수 있는가?
• RQ3 일반적인 서비스 시간 가정 하에서 시스템 상태가 고정점으로 수렴하는 방식은 어떠한가?
• RQ4 일반적인 서비스 시간 분포 하에서 유체 근사에서 이동 함수의 리프시츠 연속성을 보장하는 조건은 무엇인가?
• RQ5 서비스 시간이 꼬리가 두꺼운 경우 워크로드 프로빙이 로드 밸런싱에 얼마나 효과적으로 작용하는가?

주요 결과

• 일반적인 서비스 시간을 가진 슈퍼마켓 모델의 고정점은 서비스 시간 분포가 꼬리가 두꺼운 경우에도 이중 지수 형태를 유지한다.
• 고정점은 도착 정보와 서비스 정보의 곱 형태로 분해되며, 이는 M/G/1 대기열의 정적분포 꼬리와는 다름을 보여준다.
• 더 일반적인 슈퍼마켓 모델에서는 이중 지수 해가 유일하지 않음을 보이며, 이는 시스템 매개변수에 대한 구조적 민감성을 시사한다.
• 일반적인 서비스 시간 분포 하에서 시스템 상태가 고정점으로 수렴하는 지수 수렴성이 입증된다.
• 유체 근사에서의 이동 함수는 리프시츠 조건을 만족하므로 쿠르츠 정리를 통한 엄밀한 확산 근사가 가능하다.
• 초기 상태가 비어 있는 시스템에서 작업의 기대 체류 시간은 이중 지수 고정점에 대한 표현식으로 위상 상한이 존재함을 확인하며, 일반적인 서비스 시간 하에서의 성능 향상을 확인한다.