[논문 리뷰] A Robust Queueing Network Analyzer Based on Indices of Dispersion

Whitt, Ward, You, Wei|arXiv (Cornell University)|2019. 01. 01.

Advanced Queuing Theory Analysis참고 문헌 44인용 수 6

한 줄 요약

이 논문은 비재생 도착, 일반 서비스 시간, 피드백을 가진 단일 클래스 개방형 큐잉 네트워크에서 정적 성능를 근사하기 위해 인덱스 분산도(IDC)를 기반으로 한 강력한 큐잉 네트워크 분석기(RQNA)를 제안한다. 흐름의 변동성을 IDC 함수로 모델링하고 내부 흐름에 대해 선형 방정식을 풀어, 이전 방법들보다 정확도를 향상시킨다. 특히 고부하, 피드백이 많은 시스템에서 뛰어난 성능를 보이며, 피드백 제거 후 경쟁적인 결과를 달성한다.

ABSTRACT

In post-industrial economies, modern service systems are dramatically changing the daily lives of many people. Such systems are often complicated by uncertainty: service providers usually cannot predict when a customer will arrive and how long the service will be. Fortunately, useful guidance can often be provided by exploiting stochastic models such as queueing networks. In iterating the design of service systems, decision makers usually favor analytical analysis of the models over simulation methods, due to the prohibitive computation time required to obtain optimal solutions for service operation problems involving multidimensional stochastic networks. However, queueing networks that can be solved analytically require strong assumptions that are rarely satisfied, whereas realistic models that exhibit complicated dependence structure are prohibitively hard to analyze exactly. In this thesis, we continue the effort to develop useful analytical performance approximations for the single-class open queueing network with Markovian routing, unlimited waiting space and the first-come first-served service discipline. We focus on open queueing networks where the external arrival processes are not Poisson and the service times are not exponential. We develop a new non-parametric robust queueing algorithm for the performance approximation in single-server queues. With robust optimization techniques, the underlying stochastic processes are replaced by samples from suitably defined uncertainty sets and the worst-case scenario is analyzed. We show that this worst-case characterization of the performance measure is asymptotically exact for approximating the mean steady-state workload in G/G/1 models in both the light-traffic and heavy-traffic limits, under mild regularity conditions. In our non-parametric Robust Queueing formulation, we focus on the customer flows, defined as the continuous-time processes counting customers in or out of the network, or flowing from one queue to another. Each flow is partially characterized by a continuous function that measures the change of stochastic variability over time. This function is called the index of dispersion for counts. The Robust Queueing algorithm converts the index of dispersion for counts into approximations of the performance measures. We show the advantage of using index of dispersion for counts in queueing approximation by a renewal process characterization theorem and the ordering of the mean steady-state workload in GI/M/1 models. To develop generalized algorithm for open queueing networks, we first establish the heavy-traffic limit theorem for the stationary departure flows from a GI/GI/1 model. We show that the index of dispersion for counts function of the stationary departure flow can be approximately characterized as the convex combination of the arrival index of dispersion for counts and service index of dispersion for counts with a time-dependent weight function, revealing the non-trivial impact of the traffic intensity on the departure processes. This heavy-traffic limit theorem is further generalized into a joint heavy-traffic limit for the stationary customer flows in generalized Jackson networks, where the external arrival are characterized by independent renewal processes and the service times are independent and identically distributed random variables, independent of the external arrival processes. We show how these limiting theorems can be exploited to establish a set of linear equations, whose solution serves as approximations of the index of dispersion for counts of the flows in an open queueing network. We prove that this set of equations is asymptotically exact in approximating the index of dispersion for counts of the stationary flows. With the index of dispersion for counts available, the network is decomposed into single-server queues and the Robust Queueing algorithm can be applied to obtain performance approximation. This algorithm is referred to as the Robust Queueing Network Analyzer. We perform extensive simulation study to validate the effectiveness of our algorithm. We show that our algorithm can be applied not only to models with non-exponential distirbutions but also to models with more complex arrival processes than renewal processes, including those with Markovian arrival processes.

연구 동기 및 목표

• 의존적인 도착과 피드백을 포함한 비마르코프 큐잉 네트워크에서 기존의 분해 및 과부하 근사법의 한계를 해결한다.
• 외부 도착이 포oisson이 아니고 서비스 시간이 일반적인 개방형 큐잉 네트워크에서 성능 근사 정확도를 향상시킨다.
• 고객 흐름의 시간에 따른 변동성을 모델링하기 위해 카운트의 분산도(IDC)를 활용한 확장 가능한 알고리즘을 개발한다.
• 고부하, 피드백이 많은 네트워크에서 정확도를 향상시키기 위해 피드백 제거 절차를 도입한다.
• 클라우드 컴퓨팅, 헬스케어, 컨택센터와 같은 실제 서비스 시스템에서 성능 예측을 위한 실용적이고 계산 효율적인 알고리즘을 제공한다.

제안 방법

• 도착률과 카운트의 분산도(IDC), 즉 스케일된 분산-시간 곡선으로 특징지어지는 연속시간 과정으로 고객 흐름을 모델링한다.
• 모델 기초 자료나 데이터로부터 내부 도착 과정의 IDC 값을 계산하기 위해 선형 방정식 시스템을 유도하고 풀이한다.
• 과부하 근사 기반의 강력한 큐잉 근사법을 적용하며, 한 차원의 반사 브라운 운동(RBM)을 사용해 평균 정적 성능를 추정한다.
• 피드백 제거 통합: 주요 RQNA 알고리즘을 적용하기 전에 근접한 즉각적인 피드백 흐름을 식별하고 제거하여 병목 대기열에서의 오차를 감소시킨다.
• 외부 및 내부 도착 과정의 IDC와 서비스 시간 분포를 조합하여 평균 체류 시간과 대기열 길이를 근사한다.
• 계산 효율성을 향상시키기 위해 트리 구조 네트워크를 대상으로 간소화된 알고리즘 버전을 개발한다.

실험 결과

연구 질문

• RQ1 카운트의 분산도(IDC)는 시간에 따른 의존성을 모델링하고 근사화하여 큐잉 네트워크 근사 정확도를 향상시키는 데 어떻게 활용될 수 있는가?
• RQ2 고객 피드백과 상관된 도착은 QNA 및 QNET과 같은 기존의 분해 기반 근사법의 정확도에 어떤 영향을 미치는가?
• RQ3 피드백 제거 절차는 고부하, 피드백이 많은 네트워크에서 강력한 큐잉 근사의 정확도를 크게 향상시킬 수 있는가?
• RQ4 다양한 네트워크 구조에서 RQNA-IDC 알고리즘이 시뮬레이션 및 기타 근사 방법(QNA, QNET, SBD, RQ)과 비교해 평균 체류 시간 근사 정확도에서 어떻게 성능를 보이는가?
• RQ5 일차원 반사 브라운 운동에 의존하는 것 때문에 RQNA-IDC의 정확도가 고밀도, 고부하 큐에서 제한을 받는 정도는 어느 정도인가?

주요 결과

• 피드백 제거 없이 RQNA-IDC 알고리즘을 적용한 결과, 병목 스테이션 5에서 최대 211%의 오차가 발생하여 고피드백 상황에서 심각한 정확도 저하를 보였다.
• 피드백 제거를 적용한 후 RQNA-IDC는 스테이션 4와 5에서 오차를 15~18%로 감소시켜 SBD 및 QNET과 유사한 수준의 정확도를 달성했다.
• 피드백 제거를 적용한 결과, 전체 시스템의 평균 체류 시간 근사 오차는 9.9%로 감소하였으며, RQ의 18%와 RQNA의 102%에 비해 유의미하게 향상되었다.
• 스테이션 10에서는 RQNA-IDC가 피드백 제거를 통해 -8.7%의 오차를 기록했고, 이는 RQ(3.9%)와 SBD(1.7%)를 모두 초월하는 성능였다.
• 피드백 제거 절차는 고부하, 피드백이 많은 네트워크에서 IDC 분해의 붕괴를 효과적으로 완화시켰다.
• 광범위한 시뮬레이션 연구와 과부하 근사 한계를 통해 검증된 바에 따르면, 이 방법은 피드백 루프를 포함한 다양한 네트워크 구조에서 뛰어난 강건성을 보였다.