[논문 리뷰] A Generalized Performance Evaluation Framework for Parallel Systems with Output Synchronization

Wasiur R. KhudaBukhsh, Sounak Kar외 2명|arXiv (Cornell University)|2016. 12. 16.

Cloud Computing and Resource Management참고 문헌 23인용 수 3

한 줄 요약

이 논문은 출력 동기화가 있는 병렬 시스템의 성능 평가를 위해 일반화된 마르코프-加법 과정 프레임워크를 제안한다. 이 프레임워크는 작업을 소비하는 서버와 차단 서버의 안정 상태 대기 시간 꼬리 확률을 경계하는 데 중점을 두며, 마르팅게일 기법을 사용하여 계산 가능한 경계를 도출한다. 이는 비재생 도착, 단계형 서비스 행동, 마르코프-모odulated 시스템에 적용되며 시뮬레이션과 실제 데이터 캘리브레이션을 통해 검증된다.

ABSTRACT

Frameworks, such as MapReduce and Hadoop are abundant nowadays. They seek to reap benefits of parallelization, albeit subject to a synchronization constraint at the output. Fork-Join (FJ) queuing models are used to analyze such systems. Arriving jobs are split into tasks each of which is mapped to exactly one server. A job leaves the system when all of its tasks are executed. As a metric of performance, we consider waiting times for both work-conserving and non-work conserving server systems under a mathematical set-up general enough to take into account possible phase-type behavior of the servers, and as suggested by recent evidences, bursty arrivals. To this end, we present a Markov-additive process framework for an FJ system and provide computable bounds on tail probabilities of steady-state waiting times, for both types of servers separately. We apply our results to three scenarios, namely, non-renewal (Markov-modulated) arrivals, servers showing phase-type behavior, and Markov-modulated arrivals and services. We compare our bounds against estimates obtained through simulations and also provide a theoretical conceptualization of provisions in FJ systems. Finally, we calibrate our model with real data traces, and illustrate how our bounds can be used to devise provisions.

연구 동기 및 목표

• 모든 작업이 완료되어야만 작업 완료가 가능한 출력 동기화가 있는 병렬 시스템에서의 성능 평가 과제를 해결하기 위해.
• 표준 재생 및 i.i.d. 가정이 포착하지 못하는 폭발성 도착과 종속적인 서비스 시간과 같은 복잡한 시스템 행동을 모델링하기 위해.
• 비재생 도착, 단계형 서비스 분포, 마르코프-모듈레이션된 입력 및 서비스를 모두 처리할 수 있는 통합 수학적 프레임워크를 개발하기 위해.
• 안정 상태 대기 시간의 꼬리 확률에 대한 계산 가능한 상한을 제공하여 성능 제공 및 시스템 설계를 가능하게 하기 위해.
• 이러한 시스템에서 동적 부하 관리를 위한 반응형 및 사전형 제공 전략을 개념화하고 적용하기 위해.

제안 방법

• 저자들은 도착 및 서비스 시간의 상태 의존적 역학을 포착하기 위해 마르코프-加법 과정(MAP)을 사용하여 시스템을 모델링한다.
• 전이 커널의 모멘트 생성 함수와 스펙트럼 성질을 활용한 마르팅게일 기반 접근법을 도출하여 꼬리 확률을 경계한다.
• 비가산 상태 공간에 대해 페르로-프로베니우스 정리를 활용하여 주된 고유값과 관련 고유함수의 존재성과 양성을 보장한다.
• 핵심 구성 요소로는 정규화된 우측 고유함수 $ r(c, \theta) $, 모멘트 생성 함수 $ \zeta_k(s) $, 그리고 꼬리 사건을 경계하기 위한 본질적 상한 $ \phi(s) $ 가 포함된다.
• 마르팅게일 $ M_k(s) = \exp(sY_k - k\zeta(s))r(C_k,s) $ 에 대해 두브의 최대부등식을 적용하여 대기 시간 꼬리 확률에 대한 지수 경계를 도출한다.
• 이 방법은 실제 데이터 트레이스에 캘리브레이션되어지며, 세 가지 시나리오에 적용된다: 마르코프-모듈레이션된 도착, 단계형 서비스, 그리고 공동 마르코프-모듈레이션된 도착 및 서비스.

실험 결과

연구 질문

• RQ1 비재생 및 종속적인 도착/서비스 과정 하에서 출력 동기화가 있는 병렬 시스템에 대한 일반화된 성능 평가 프레임워크를 어떻게 구성할 수 있는가?
• RQ2 작업 소비 및 차단 서버 모델 모두에서 안정 상태 대기 시간의 꼬리 확률에 대한 계산 가능한 상한은 무엇인가?
• RQ3 마르코프-加법 과정 프레임워크는 어떻게 폭발성 도착과 단계형 서비스 행동을 특화시킬 수 있는가?
• RQ4 이론적 경계는 시뮬레이션에서 얻은 경험적 추정치와 어떻게 비교 검증할 수 있는가?
• RQ5 이 프레임워크 내에서 성능 최적화를 위해 반응형 및 사전형 제공 전략은 어떻게 개념화하고 적용할 수 있는가?

주요 결과

• 마르팅게일 기법과 스펙트럼 분석을 활용하여 작업 소비 및 차단 서버 모두에 대해 안정 상태 대기 시간의 꼬리 확률에 대한 계산 가능한 상한을 제공한다.
• i.i.d. 지수 분포 서비스 시간(비율 $ \mu_i $)의 경우, 대기 시간 $ V $ 의 모멘트 생성 함수는 $ \mathrm{E}[e^{\theta V}] = \sum_{S \neq \emptyset} (-1)^{|S|+1} \frac{\sum_{i \in S} \mu_i}{\sum_{i \in S} \mu_i - \theta} $ 이며, 평균 대기 시간은 $ \mathrm{E}[V] = \sum_{S \neq \emptyset} (-1)^{|S|+1} \frac{1}{\sum_{i \in S} \mu_i} $ 이다.
• 모든 세 가지 응용 시나리오에서 시뮬레이션을 통해 확보한 경험적 보완 누적분포함수(CCDF)와 이론적 꼬리 확률 경계가 매우 유사하게 일치한다.
• 모델은 실제 데이터 트레이스에 성공적으로 캘리브레이션되어 실용적 적용 가능성을 입증한다.
• 이 프레임워크는 반응형 및 사전형 제공 전략의 개념화를 가능하게 하며, 단순한 반응형 제공 전략을 도식적으로 제시하여 설명한다.
• 유도된 경계가 성능 평가에 효과적임을 입증하였으며, 복잡한 현실적인 트래픽 및 서비스 패턴 하에서 시스템 설계를 안내하는 데 기여할 수 있다.