[논문 리뷰] Parallel queues with synchronization

Mariana Olvera‐Cravioto, Octavio Ruiz Lacedelli|arXiv (Cornell University)|2014. 12. 31.

Advanced Queuing Theory Analysis참고 문헌 39인용 수 12

한 줄 요약

이 논문은 작업이 랜덤하게 서버에 할당되고, 모든 조각이 FCFS 규칙 하에 동시에 서비스를 시작해야 하는 다수의 서버로 구성된 큐잉 시스템을 연구한다. 고차수 리드리 방정식을 통해 다수의 서버 근처에서 정적 대기 시간 분포를 확립하고, 단일 서버 큐에 대한 크라머-룬베르크 근사의 일반화인 정확한 尾尾 점근적 성질을 도출한다.

ABSTRACT

Motivated by the growing interest in today's massive parallel computing capabilities we analyze a queueing network with many servers in parallel to which jobs arrive a according to a Poisson process. Each job, upon arrival, is split into several pieces which are randomly routed to specific servers in the network, without centralized information about the status of the servers' individual queues. The main feature of this system is that the different pieces of a job must initiate their service in a synchronized fashion. Moreover, the system operates in a FCFS basis. The synchronization and service discipline create blocking and idleness among the servers, which is compensated by the fast service time attained through the parallelization of the work. We analyze the stationary waiting time distribution of jobs under a many servers limit and provide exact tail asymptotics; these asymptotics generalize the celebrated Cramér-Lundberg approximation for the single-server queue.

연구 동기 및 목표

• 작업이 분할되고 분산된 서버들 간에 동시에 서비스를 시작해야 하는 대규모 병렬 큐잉 시스템을 모델링하고 분석한다.
• 특히 대규모 병렬 컴퓨팅 환경에서의 차단 및 무용성에 영향을 미치는 동기화 및 FCFS 서비스 규칙의 영향을 이해한다.
• 서버 수와 작업 도착률이 모두 큰 다수의 서버 점근적 영역에서 정적 대기 시간 분포를 확립한다.
• 단일 서버 큐에 대한 고전적 크라머-룬베르크 근사를 더 복잡한 동기화 다중 서버 환경으로 일반화한다.
• 고부하 상황에서의 정확한 대칭 점근적 행동을 제공하는 대기 시간 분포의 정확한 尾尾 점근적 성질을 도출한다.

제안 방법

• 시스템을 N개의 병렬 서버로 구성된 큐잉 네트워크로 모델링하며, 각 작업은 중앙 집중식 큐 상태 정보 없이 랜덤한 조각으로 분할되어 서버에 할당된다.
• 두 가지 핵심 제약 조건을 도입한다: (1) 작업의 모든 조각이 동시에 서비스를 시작해야 한다(동기화), (2) 각 서버의 큐는 FCFS 규칙을 따른다.
• 다수의 서버 근처에서 정적 대기 시간 분포를 고차수 리드리 방정식을 사용하여 도출한다: $ W \stackrel{\mathcal{D}}{=} \left( \max_{1\leq i\leq N} (W_i + \chi_i - \tau_i) \right)^+ $, 여기서 $ W_i $는 서버 i에서의 대기 시간, $ \chi_i $는 조각의 서비스 시간, $ \tau_i $는 동기화 지연이다.
• 대기 시간 분포의 극한 행동을 특성화하기 위해 확률적 고정점 방정식과 가중치가 부여된 분열 과정을 적용한다.
• 대규모 편차 이론과 워셔스타인 거리 및 균일 유한성 조건을 포함한 수렴 추론을 사용하여 유한 시스템의 대기 시간 분포가 극한 분포로 수렴함을 증명한다.
• 극한 대기 시간 분포가 내생적(내재적)이 되고 고차수 리드리 방정식을 만족하는 조건을 확립한다.

실험 결과

연구 질문

• RQ1 다수의 서버에 걸쳐 작업 조각의 동기화가 대규모 병렬 큐잉 시스템에서 정적 대기 시간 분포에 어떤 영향을 미치는가?
• RQ2 서버 수와 작업 도착률이 무한대에 접근함에 따라 대기 시간 분포의 점근적 행동은 어떻게 되는가?
• RQ3 단일 서버 큐에 대한 고전적 크라머-룬베르크 근사를 이 동기화 다중 서버 환경으로 일반화할 수 있는가?
• RQ4 이 시스템에서 대기 시간 분포의 정확한 尾尾 점근적 성질은 무엇이며, 서비스 시간 및 라우팅 특성에 따라 어떻게 달라지는가?
• RQ5 극한 대기 시간 분포가 존재하고 유도된 고차수 리드리 방정식을 만족하는 조건은 무엇인가?

주요 결과

• 다수의 서버 근처에서의 정적 대기 시간은 $ N $개의 i.i.d. 랜덤 변수 $ (W_i + \chi_i - \tau_i)^+ $의 최댓값을 포함하는 고차수 리드리 방정식의 내생적 해로 특성화된다.
• 논문은 대기 시간 분포에 대한 정확한 尾尾 점근적 성질을 도출하였으며, 이는 단일 서버 큐에 대한 크라머-룬베르크 근사를 동기화 다중 서버 케이스로 일반화한다.
• 작업 크기 및 라우팅 분포에 대해 약한 모멘트 조건과 균일 유한성 조건을 만족할 경우, 유한 시스템의 대기 시간 분포가 극한 분포로 수렴함을 증명하였다.
• 서비스 시간 및 라우팅 분포가 일정한 순서 이하의 유한 모멘트를 가진다고 가정할 경우, 극한 분포가 안정적이고 잘 정의됨을 보였다.
• 증명은 워셔스타인 거리 수렴과 감마 함수 점근적 성질 및 젠센 부등식을 사용한 오차 통제를 바탕으로 한 모멘트 경계에 의존한다.
• 확률적 고정점 방정식 이론의 도함수 및 근 조건을 통해 극한 분포 존재 조건을 검증하였으며, 이는 해가 유일하고 잘 행동함을 보장한다.