[논문 리뷰] Load Balancing for Skewed Streams on Heterogeneous Cluster

Muhammad Anis Uddin Nasir, Hiroshi Horii외 5명|arXiv (Cornell University)|2017. 05. 25.

Cloud Computing and Resource Management참고 문헌 47인용 수 4

한 줄 요약

이 논문은 비균형적 워크로드를 가진 이종 클러스터에서 분산 스트림 처리 엔진을 위한 새로운 로드 밸런싱 전략인 일관된 그룹화(CG)를 제안한다. 용량 인지 가상 워커와 일관된 해싱을 활용하여 처리 요소 간에 동적으로 로드를 균형 잡는다. 이로 인해 키 그룹화(key grouping) 대비 3.44배 낮은 지연 시간과 2배 높은 처리량을 달성하면서도 낮은 메모리 오버헤드를 유지한다.

ABSTRACT

Streaming applications frequently encounter skewed workloads and execute on heterogeneous clusters. Optimal resource utilization in such adverse conditions becomes a challenge, as it requires inferring the resource capacities and input distribution at run time. In this paper, we tackle the aforementioned challenges by modeling them as a load balancing problem. We propose a novel partitioning strategy called Consistent Grouping (CG), which enables each processing element instance (PEI) to process the workload according to its capacity. The main idea behind CG is the notion of small, equal-sized virtual workers at the sources, which are assigned to workers based on their capacities. We provide a theoretical analysis of the proposed algorithm and show via extensive empirical evaluation that our proposed scheme outperforms the state-of-the-art approaches, like key grouping. In particular, CG achieves 3.44x better performance in terms of latency compared to key grouping.

연구 동기 및 목표

• 이종 클러스터에서 비균형적인 데이터 워크로드를 가진 분산 스트림 처리 엔진에서 비효율적인 로드 밸런싱 문제를 해결한다.
• 기존의 그룹화 전략인 키 그룹화(KG)와 셔플 그룹화(SG)의 한계를 극복한다. 이들은 자원의 이종성과 입력 스케일링을 고려하지 못한다.
• 메모리 사용량과 집계 비용을 최소화하면서도 공정한 로드 분배를 보장하는 경량의 상태 기반 그룹화 전략을 설계한다.
• 중앙 집중식 조정이나 런타임 통계 수집 없이도 변화하는 클러스터 자원 용량에 동적으로 적응할 수 있도록 한다.
• 실제 구현 환경(예: Apache Storm)에서 동일한 환경과 이종 환경 모두에서 최적의 자원 활용도와 확장성을 달성한다.

제안 방법

• 스트림 소스 수준에서 용량 인지 가상 워커를 도입하며, 각 가상 워커는 상대적 용량에 따라 물리적 워커에 할당된다.
• 키를 가상 워커에 매핑하기 위해 일관된 해싱을 사용하여 워커 용량이 변경될 경우에도 원활한 재균형이 가능하도록 한다.
• 각 물리적 워커의 자원 용량(CPU, 메모리) 비례로 가상 워커를 할당함으로써 용량 인지 로드 분배를 실현한다.
• 랜덤 선택의 힘을 활용하여 가상 워커 할당의 불균형을 최소화하고 로드 분포의 분산을 감소시킨다.
• 이론적 분석을 통해 균형의 경계를 유지함으로써 동적 조건 하에서도 예측 가능한 성능을 보장한다.
• 최소한의 상태와 조정 오버헤드로 상태 기반 및 상태 없는 스트리밍 워크로드를 모두 지원할 수 있도록 구현한다.

실험 결과

연구 질문

• RQ1 입력 데이터가 비균형적이고 클러스터 자원이 이종적인 환경에서 분산 스트림 처리 엔진에서 로드 밸런싱을 효과적으로 달성할 수 있는 방법은 무엇인가?
• RQ2 기존의 키 그룹화와 셔플 그룹화와 비교했을 때, 가상 워커 기반 접근 방식이 로드 밸런싱의 공정성에 얼마나 기여하는가?
• RQ3 중앙 집중식 모니터링이나 조정 없이도 가벼운 분산 그룹화 전략이 변화하는 자원 용량에 동적으로 적응할 수 있는가?
• RQ4 제안된 일관된 그룹화(CG) 기법이 실세계 구현 환경에서 종단 간 지연 시간, 처리량, 메모리 오버헤드에 미치는 영향은 어떠한가?
• RQ5 CPU 타이밍 제어나 변동하는 워커 용량과 같은 동적 자원 변화 상황에서 이 기법은 어떻게 성능을 발휘하는가?

주요 결과

• 일관된 그룹화는 이종 클러스터 환경에서 키 그룹화 대비 종단 간 지연 시간을 3.44배 감소시킨다.
• 실세계 데이터셋을 사용한 Apache Storm 배포 환경에서 CG는 키 그룹화 대비 최대 2배 높은 처리량을 달성한다.
• 동종 클러스터에서는 CG가 셔플 그룹화의 14% 대비 낮은 메모리 오버헤드(8.5%)를 유지하면서도 지연 시간과 처리량에서 훨씬 뛰어난 성능을 발휘한다.
• CPU 타이밍 제어와 같은 동적 자원 변화에 효율적으로 대응하여 안정적인 성능과 낮은 불균형을 유지한다.
• 이론적 분석을 통해 CG는 경계가 있는 불균형을 달성함으로써 워커 간 예측 가능하고 공정한 로드 분포를 보장한다.
• 합성 및 실세계 데이터셋(예: TW 데이터셋)에 대한 실증 평가를 통해 CG가 최적의 메모리 오버헤드와 뛰어난 확장성을 제공하는 것으로 확인되었다.