[논문 리뷰] Network calculus for parallel processing

George Kesidis, Bhuvan Urgaonkar외 3명|arXiv (Cornell University)|2014. 09. 02.

Cloud Computing and Resource Management참고 문헌 14인용 수 5

한 줄 요약

이 논문은 MapReduce와 같은 프레임워크에서 맵퍼 및 리듀서 단계 간의 동기화 장벽을 포함한 병렬 처리 시스템의 지연을 모델링하기 위해 네트워크 계산을 적용한다. 이는 성능이 균형 잡힌 서비스 보장 조건 하에서 일반화된 스토하스틱 버스트리니스 경계를 사용하여, 종단 간 지연이 개별 처리 경로의 최대 지연으로 제한됨을 입증한다.

ABSTRACT

In this note, we present preliminary results on the use of "network calculus" for parallel processing systems, specifically MapReduce.

연구 동기 및 목표

• 동기화 장벽이 있는 다단계 병렬 처리 시스템을 위한 성능 모델을 개발하기.
• 네트워크 계산 원리를 사용하여 단일 병렬 처리 단계의 지연을 분석하기.
• 개별 큐 지연과 버스트리니스 제약 조건을 바탕으로 종단 간 지연의 상한을 정량화하기.
• 페이스북 데이터 센터에서 확보한 실세계 워크로드 트레이스를 사용하여 모델을 검증하기.
• 정적이고 로드 밸런싱된 시스템 조건 하에서 강력한 스토하스틱 버스트리니스 가정 하에 이론적 상한을 수립하기.

제안 방법

• 각각의 서비스 커브 $ s_{\min,k} $ 와 도착 과정 $ a_k \ll b_{\text{in},k} $ 를 갖는 K개의 병렬 큐로 구성된 단일 단계 포크-조인 시스템을 모델링한다.
• 각 큐의 지연을 나타내기 위해 가상 지연 $ \delta_k(t) = t - a_k^{-1}(d_k(t)) $ 를 정의한다.
• 시스템 출력 $ D(t) $ 를 $ A(\min_k \{ a_k^{-1}(d_k(t)) \}) $ 로 유도하며, 이는 가장 느린 큐에서 발생하는 장벽을 반영한다.
• 정적 조건 하에서 스토하스틱 워크로드 행동을 모델링하기 위해 일반화된 스토하스틱 버스트리니스 경계(gSBB)를 도입한다.
• 각 큐의 지연 상한을 유도하기 위해 복합 항등식 $ (s_{\min,k} * a_k)(t) \geq a_k(t - d_{\max,k}) $ 를 사용한다.
• 지연 상한 $ d_{\max,k} $ 는 입력 버스트리니스 에너지 $ b_{\text{in},k} $ 와 서비스 커브 $ s_{\min,k} $ 간의 최대 수평 차이로 정의된다.

실험 결과

연구 질문

• RQ1 단계 간 동기화 장벽이 있는 병렬 처리 시스템에서 종단 간 지연 상한은 무엇인가?
• RQ2 로드 밸런싱된 시스템에서 워크로드의 강력한 스토하스틱 버스트리니스는 지연 분포에 어떻게 영향을 미치는가?
• RQ3 네트워크 계산은 파ipel라인 맵퍼-셔플러-리듀서 단계를 갖는 MapReduce 유사 시스템에 대해 접근 가능하고 일반적인 성능 모델을 제공할 수 있는가?
• RQ4 병렬 큐 간의 로드 밸런싱은 시스템의 최악의 경우 지연에 어떻게 영향을 미치는가?
• RQ5 포크-조인 아키텍처에서 개별 큐 지연과 전체 시스템 지연 간의 관계는 무엇인가?

주요 결과

• 입력 $ A $ 에서 출력 $ D $ 로의 종단 간 지연은 $ A(t - \max_k \{ d_{\max,k} \}) $ 로 제한되며, 이는 시스템 지연이 모든 병렬 큐 중 최대 지연과 동일하다는 것을 의미한다.
• 강력한 스토하스틱 버스트리니스 조건 하에서 $ A(t) - D(t) \geq x $ 가 발생할 확률은 $ \Phi(x - 2M \max_k \{ \varepsilon_k / \mu_k \}) $ 로 제한되며, 여기서 $ \Phi $ 는 감소하는 尾함수이다.
• 이 상한은 워크로드 변동 조건 하에서도 시스템 지연이 가장 느린 큐에 의해 지배됨을 보여준다.
• 모델은 서비스 용량 $ \mu_k $ 에 비례하는 로드 밸런싱이 편차 $ \varepsilon_k $ 를 제한함으로써 지연 예측 가능성을 향상시킴을 확인한다.
• 페이스북 데이터 센터 트레이스를 활용한 수치적 평가에서 gSBB 모델이 타당하며 유도된 상한이 날카롭게 유지됨을 입증하였다.
• 결과는 네트워크 계산이 최소한의 가정으로도 복잡한 실세계 병렬 처리 시스템을 효과적으로 모델링할 수 있음을 보여준다.