[논문 리뷰] OS4M: Achieving Global Load Balance of MapReduce Workload by Scheduling at the Operation Level

Liya Fan, Bo Gao외 2명|arXiv (Cornell University)|2014. 06. 16.

Cloud Computing and Resource Management참고 문헌 25인용 수 4

한 줄 요약

OS4M는 맵 작업 통계를 분석하고 감소 작업 분포를 동적으로 최적화하여 운영 수준의 세밀한 스케줄링을 통해 전역적 로드 밸런싱을 달성하는 MapReduce에서의 운영 수준 스케줄링을 제안한다. 맵 작업에서 감소 복사 단계를 분리하고 로드 기반으로 감소 단계를 파이프라인화하여, 기준 Hadoop 대비 작업 완료 시간을 최대 42% 감소시킨다.

ABSTRACT

The efficiency of MapReduce is closely related to its load balance. Existing works on MapReduce load balance focus on coarse-grained scheduling. This study concerns fine-grained scheduling on MapReduce operations, with each operation representing one invocation of the Map or Reduce function. By default, MapReduce adopts the hash-based method to schedule Reduce operations, which often leads to poor load balance. In addition, the copy phase of Reduce tasks overlaps with Map tasks, which significantly hinders the progress of Map tasks due to I/O contention. Moreover, the three phases of Reduce tasks run in sequence, while consuming different resources, thereby under-utilizing resources. To overcome these problems, we introduce a set of mechanisms named OS4M (Operation Scheduling for MapReduce) to improve MapReduce's performance. OS4M achieves load balance by collecting statistics of all Map operations, and calculates a globally optimal schedule to distribute Reduce operations. With OS4M, the copy phase of Reduce tasks no longer overlaps with Map tasks, and the three phases of Reduce tasks are pipelined based on their operation loads. OS4M has been transparently incorporated into MapReduce. Evaluations on standard benchmarks show that OS4M's job duration can be shortened by up to 42%, compared with a baseline of Hadoop.

연구 동기 및 목표

• 粗미세 스케줄링과 해시 기반 감소 할당으로 인한 MapReduce의 열악한 로드 밸런싱 문제 해결.
• 맵과 감소 복사 단계가 겹쳐 발생하는 I/O 경쟁 완화.
• 운영 수준 로드 기반으로 세 단계의 감소 작업 단계를 파이프라인화하여 자원 활용도 향상.
• 개별 맵 및 감소 작업의 중앙집중식 통계 기반 스케줄링을 통해 전역적 로드 밸런싱 달성.
• 응용 프로그램에 영향을 주지 않고 Hadoop 프레임워크의 핵심 구조를 수정하지 않고도 통합 가능한 투명한 통합 제공.

제안 방법

• 모든 맵 작업의 런타임 통계를 수집하여 실행 부하와 데이터 볼륨을 추정.
• 로드 인식 히우리스틱을 사용해 감소 작업에 대한 전역 최적 스케줄을 계산하여 노드 간 작업 균형을 맞춤.
• 감소 복사 단계를 맵 작업 실행에서 분리하여 I/O 경쟁을 제거하고 동시 진행을 가능하게 함.
• 운영 수준 로드 기반으로 맵, 셔플, 감소 단계를 겹치는 단계로 실행하는 감소 단계 파이프라인 재설계.
• 응용 프로그램이나 핵심 프레임워크를 수정하지 않고도 Hadoop 내부에 투명한 계층으로 통합.
• 실시간 로드와 데이터 국지성에 기반해 운영 수준 스케줄링을 사용해 감소 작업을 노드에 동적으로 할당.

실험 결과

연구 질문

• RQ1 운영 수준 스케줄링이 MapReduce 워크로드에서 전역적 로드 밸런싱을 크게 향상시킬 수 있는가?
• RQ2 감소 복사 단계를 맵 실행에서 분리하면 I/O 경쟁을 얼마나 줄일 수 있고 전체 처리량은 얼마나 향상되는가?
• RQ3 운영 수준 로드 메트릭 기반으로 감소 작업의 세 단계를 파이프라인화할 경우 얼마나 효과적인가?
• RQ4 해시 기반 스케줄링을 통계 기반 전역 최적화 전략으로 대체하면 어떤 성능 향상이 달성되는가?
• RQ5 OS4M는 응용 프로그램 수준의 변경 없이 기존 Hadoop 배포에 투명하게 통합될 수 있는가?

주요 결과

• OS4M는 표준 Hadoop 벤치마크에서 기준 Hadoop 구현 대비 작업 완료 시간을 최대 42% 감소시킨다.
• 맵과 감소 복사 단계 간의 I/O 경쟁 제거로 인해 특히 I/O 집약적인 워크로드에서 뚜렷한 성능 향상이 발생한다.
• 운영 수준 로드 기반으로 감소 작업의 세 단계를 파이프라인화하면 자원 활용도 향상과 유휴 시간 감소에 기여한다.
• 스케줄링에 전역 통계를 사용함으로써 노드 간 로드 밸런싱이 향상되어 작업 완료 시간의 분산이 감소한다.
• OS4M는 사용자 응용 프로그램이나 Hadoop 핵심 프레임워크에 대한 변경 없이도 성능 향상을 달성한다.
• 다양한 워크로드에서 일관된 성능 향상이 확인되어 운영 수준 스케줄링이 대규모 데이터 처리에서 효과적임을 입증한다.