[논문 리뷰] Optimizing MapReduce for Highly Distributed Environments

Benjamin Heintz, Abhishek Chandra외 1명|arXiv (Cornell University)|2012. 07. 30.

Cloud Computing and Resource Management참고 문헌 23인용 수 9

한 줄 요약

이 논문은 지리적으로 산재한 데이터와 계산 자원을 가진 고도로 분산된 환경에서 MapReduce 작업을 실행하기 위한 모델 기반, 엔드 투 엔드 최적화 프레임워크를 제안한다. 푸시, 맵, 셔플, 리듀스 단계를 종합적으로 최적화함으로써, 이 접근법은 단기적 접근 방식 대비 최대 82%의 실행 시간 감소를 이끌었고, 실제 테스트에서 보편적인 Hadoop 대비 31–41% 향상을 달성했다.

ABSTRACT

MapReduce, the popular programming paradigm for large-scale data processing, has traditionally been deployed over tightly-coupled clusters where the data is already locally available. The assumption that the data and compute resources are available in a single central location, however, no longer holds for many emerging applications in commercial, scientific and social networking domains, where the data is generated in a geographically distributed manner. Further, the computational resources needed for carrying out the data analysis may be distributed across multiple data centers or community resources such as Grids. In this paper, we develop a modeling framework to capture MapReduce execution in a highly distributed environment comprising distributed data sources and distributed computational resources. This framework is flexible enough to capture several design choices and performance optimizations for MapReduce execution. We propose a model-driven optimization that has two key features: (i) it is end-to-end as opposed to myopic optimizations that may only make locally optimal but globally suboptimal decisions, and (ii) it can control multiple MapReduce phases to achieve low runtime, as opposed to single-phase optimizations that may control only individual phases. Our model results show that our optimization can provide nearly 82% and 64% reduction in execution time over myopic and single-phase optimizations, respectively. We have modified Hadoop to implement our model outputs, and using three different MapReduce applications over an 8-node emulated PlanetLab testbed, we show that our optimized Hadoop execution plan achieves 31-41% reduction in runtime over a vanilla Hadoop execution. Our model-driven optimization also provides several insights into the choice of techniques and execution parameters based on application and platform characteristics.

연구 동기 및 목표

• 지리적으로 산재한 데이터와 계산 자원을 가진 고도로 분산된 환경에서 효율적인 MapReduce 실행의 증가하는 수요를 해결한다.
• 중앙집중식 데이터와 타이트하게 결합된 클러스터를 가정하는 기존 MapReduce 배포 방식이 현대의 대규모 응용 프로그램에서 가지는 한계를 규명한다.
• 모든 MapReduce 단계에서의 핵심 설계 선택과 성능 트레이드오프를 포괄하는 탄력적인 모델링 프레임워크를 개발한다.
• 국가 수준의 성능 트레이드오프를 고려하는 엔드 투 엔드 최적화 전략을 제안한다. 국지적, 단계별 결정이 아닌 전반적 고려를 기반으로 한다.
• 응용 프로그램 및 플랫폼 특성(예: 데이터 확장 인자, 네트워크 이질성)에 기반한 실행 파rameter 및 기법에 대한 실질적인 통찰을 제공한다.

제안 방법

• 분산된 데이터 소스와 계산 노드 전반에서 MapReduce 실행을 추상화하는 데이터 무관성 엔드 투 엔드 성능 모델을 설계한다.
• 다양한 단계—데이터 푸시, 맵, 셔플, 리듀스—에 대한 공동 제어 문제로 최적화를 공식화함으로써 단계 간 트레이드오프 분석을 가능하게 한다.
• 데이터 크기, 네트워크 지연, 계산 용량 등의 매개변수를 사용한 수학적 모델을 도입하여 다양한 구성에서의 실행 시간을 예측한다.
• 전체 실행 시간을 최소화하는 최적의 구성(파이프라인 및 자원 할당 전략 포함)을 모델을 통해 식별한다.
• 모델 출력 결과를 수정된 Hadoop 배포판에 구현하여 실제 테스트베드에서 성능 향상을 검증한다.
• 8개 노드로 구성된 PlanetLab 시뮬레이션 테스트베드를 활용하여, 세 가지 다양한 MapReduce 응용 프로그램에서 최적화된 Hadoop 실행 계획의 성능을 평가한다.

실험 결과

연구 질문

• RQ1 엔드 투 엔드 최적화(다양한 MapReduce 단계를 종합적으로 고려)가 단기적, 단계별 최적화에 비해 실행 시간 감소 측면에서 어떻게 비교되는가?
• RQ2 네트워크 이질성과 데이터 분포가 MapReduce 성능 최적화의 효과성에 어떤 영향을 미치는가?
• RQ3 응용 프로그램 특성(예: 데이터 확장 인자)이 최적의 실행 계획에 어떻게 영향을 미치는가?
• RQ4 모델 기반 최적화가 보편적인 Hadoop 대비 실제 분산 환경에서 Hadoop 성능을 얼마나 향상시킬 수 있는가?
• RQ5 플랫폼 및 워크로드 조건이 다양할 때, 파이프라인, 데이터 국지성, 자원 할당 등 시스템 파arameter 및 아키텍처 선택 중 어떤 것이 가장 영향력이 있는가?

주요 결과

• 제안된 엔드 투 엔드 최적화는 국지적으로 최적의 결정만 내리는 단기적 최적화 전략 대비 최대 82%의 실행 시간 감소를 이룬다.
• 8노드 PlanetLab 테스트베드를 사용해 세 가지 실제 MapReduce 응용 프로그램에서 평가한 결과, 모델 기반 접근 방식은 보편적인 Hadoop 대비 31–41%의 런타임 감소를 달성했다.
• 높은 수준의 분산성과 이질성에 기인한 네트워크에서 최적화가 뚜렷한 이점을 제공한다. 글로벌 분산 환경에서는 단기적 방법 대비 82% 향상되었고, 단일 로컬 클러스터 환경에서는 37% 향상되었다.
• 데이터 확장 인자 α는 최적의 실행 계획에 강력한 영향을 미치며, 최적화에 가장 민감한 단계와 파이프라인으로서의 이점이 가장 큰 단계에 영향을 준다.
• 모델은 네트워크 이질성이 전역 최적화의 가치를 증폭시킴을 드러내며, 이를 통해 자원 및 데이터 분포 패턴을 더 효과적으로 활용할 수 있음을 시사한다.
• 응용 프로그램 및 인프라 특성에 기반한 파rameter 선택(예: 최적의 데이터 분할 및 파이프라인 스케줄링)에 대한 실질적인 통찰을 제공한다.