[논문 리뷰] Near-Data Scheduling for Data Centers with Multiple Levels of Data Locality

Ali Yekkehkhany|arXiv (Cornell University)|2017. 02. 24.

Cloud Computing and Resource Management참고 문헌 13인용 수 12

한 줄 요약

이 논문은 로컬 메모리, 로컬 디스크, 원격 저장소의 세 가지 수준의 데이터 로컬리티를 가진 데이터 센터를 위한 새로운 로드 밸런싱 알고리즘인 Balanced-Pandas를 제안한다. 이는 JSQ-MW와 Pandas를 확장하여 처리량 최적성과 헤비트래픽 최적성을 동시에 달성함으로써, 기존 알고리즘이 해결하지 못한 다수준 로컬리티 시스템에서의 성능-처리량 트레이드오프를 해결한다. 알려진 바에 따르면, 이는 세 수준의 데이터 로컬리티 스케줄링을 위한 이론적으로 엄밀한 해결책으로서 최초의 사례이다.

ABSTRACT

Data locality is a fundamental issue for data-parallel applications. Considering MapReduce in Hadoop, the map task scheduling part requires an efficient algorithm which takes data locality into consideration; otherwise, the system may become unstable under loads inside the system's capacity region and jobs may experience longer completion times which are not of interest. The data chunk needed for any map task can be in memory, on a local disk, in a local rack, in the same cluster or even in another data center. Hence, unless there has been much work on improving the speed of data center networks, different levels of service rates still exist for a task depending on where its data chunk is saved and from which server it receives service. Most of the theoretical work on load balancing is for systems with two levels of data locality including the Pandas algorithm by Xie et al. and the JSQ-MW algorithm by Wang et al., where the former is both throughput and heavy-traffic optimal, while the latter is only throughput optimal, but heavy-traffic optimal in only a special traffic load. We show that an extension of the JSQ-MW algorithm for a system with thee levels of data locality is throughput optimal, but not heavy-traffic optimal for all loads, only for a special traffic scenario. Furthermore, we show that the Pandas algorithm is not even throughput optimal for a system with three levels of data locality. We then propose a novel algorithm, Balanced-Pandas, which is both throughput and heavy-traffic optimal. To the best of our knowledge, this is the first theoretical work on load balancing for a system with more than two levels of data locality. This is more challenging than two levels of data locality as a dilemma between performance and throughput emerges.

연구 동기 및 목표

• 두 개 이상의 수준의 데이터 로컬리티를 가진 데이터 센터에 대한 이론적 로드 밸런싱 솔루션의 부족을 해결하기 위해.
• 세 수준의 데이터 로컬리티를 가진 시스템에서 발생하는 성능-처리량 트레이드오프를 해결하기 위해, 기존 알고리즘이 두 가지 최적성 유형을 동시에 달성하지 못하는 문제를 해결하기 위해.
• 고부하 상황에서도 낮은 작업 완료 시간을 유지하면서 시스템 안정성과 처리량 최대화를 보장하는 스케줄링 알고리즘을 설계하기 위해.
• Balanced-Pandas가 세 수준의 로컬리티 모델에서 처리량 최적성과 헤비트래픽 최적성을 동시에 달성함을 공식적으로 증명하기 위해.
• 계층적 데이터 액세스 속도를 가진 현대 데이터 센터 아키텍처에서 네어-데이터 스케줄링을 위한 이론적 기반을 마련하기 위해.

제안 방법

• JSQ-MW와 Pandas 알고리즘을 확장하여 로컬 메모리, 로컬 디스크, 원격 스토리지의 세 가지 구체적인 데이터 로컬리티 수준을 모델링한다.
• 데이터 접근 거리와 서비스 속도를 기반으로 네 가지 서버 유형에 작업을 할당하는 이상적인 로드 분해 메커니즘을 도입한다.
• 다른 데이터 액세스 지연과 서비스 속도를 반영하기 위해 네 가지 서버 유형을 가진 큐잉 구조를 사용하여 정밀한 로드 밸런싱을 가능하게 한다.
• 유체 극한 분석과 상태공간 축소 기법을 활용하여 고부하 조건 하에서의 안정성과 최적성을 증명한다.
• 리아푸노프 드리프트와 마틴갈 방법을 적용하여 큐잉 지연을 구속하고 최적 성능로의 수렴을 확립한다.
• 큐 길이와 데이터 로컬리티 수준에 따라 작업을 우선순위 정렬하는 새로운 스케줄링 규칙을 유도한다. 이는 균형 잡힌 로드 분포를 보장한다.

실험 결과

연구 질문

• RQ1 세 수준의 데이터 로컬리티를 가진 시스템에서 로드 밸런싱 알고리즘이 처리량 최적성과 헤비트래픽 최적성을 동시에 달성할 수 있는가?
• RQ2 기존 알고리즘인 JSQ-MW와 Pandas는 왜 세 수준의 시스템에서 헤비트래픽 최적성을 달성하지 못하는가?
• RQ3 성능과 처리량을 균형 잡는 다수준 로컬리티 환경에서 스케줄링 정책이 가져야 할 구조적 및 동적 특성은 무엇인가?
• RQ4 데이터 로컬리티와 서비스 속도의 차이를 반영하기 위해 작업를 서버 유형 간에 어떻게 최적으로 분해할 수 있는가?
• RQ5 이러한 계층적 데이터 센터 아키텍처에서 안정성과 최소한의 작업 완료 시간을 보장할 수 있는 이론적 프레임워크가 존재하는가?

주요 결과

• Balanced-Pandas는 세 수준의 데이터 로컬리티를 가진 시스템에서 처리량 최적성과 헤비트래픽 최적성을 동시에 확보함을 증명하였으며, 핵심적인 이론적 격차를 메웠다.
• JSQ-MW 알고리즘은 처리량 최적성은 달성하지만, 일반적인 부하 조건에서는 세 수준의 시스템에서 헤비트래픽 최적성을 달성하지 못하며, 특수한 트래픽 조건에서만 성립한다.
• Pandas 알고리즘은 세 수준의 시스템에서 처리량 최적성조차 달성하지 못하며, 이는 다수준 로컬리티에 대한 설계에 근본적인 결함이 있음을 시사한다.
• 시뮬레이션 결과에 따르면, 고부하 조건에서 Balanced-Pandas는 JSQ-MW와 Pandas보다 훨씬 낮은 평균 작업 완료 시간을 기록한다.
• 모든 서버 유형에서 안정적인 큐잉 행동을 유지하며, 고부하 상태에서 이론적 예측과 일치하는 작업량 비율을 확보한다.
• 이론적 분석을 통해 Balanced-Pandas가 시스템 부하가 용량에 가까워질수록 최적 성능으로 수렴하며, 시스템 크기에 따라 유리하게 스케일링되는 지연 구속 조건을 확인하였다.