[논문 리뷰] Data Placement and Replica Selection for Improving Co-location in Distributed Environments

K. Ashwin Kumar, Amol Deshpande외 1명|arXiv (Cornell University)|2013. 02. 18.

Cloud Computing and Resource Management참고 문헌 47인용 수 44

한 줄 요약

이 논문은 복제와 초그래프 모델링을 활용하여 평균 쿼리 스펜(쿼리 처리에 관여하는 머신 수)을 최소화하는 워크로드 기반 데이터 배치 및 레플리카 선택 프레임워크를 제안한다. 자주 함께 액세스되는 데이터 항목을 초그래프의 초간선으로 모델링하고, LMBR와 같은 그래프 이론적 알고리즘을 사용함으로써 분산 시스템에서 자원 및 에너지 소비를 줄인다. 실제 및 합성 워크로드에서 기준 방법 대비 평균 쿼리 스펜을 최대 57% 낮추는 데 성공하였다.

ABSTRACT

Increasing need for large-scale data analytics in a number of application domains has led to a dramatic rise in the number of distributed data management systems, both parallel relational databases, and systems that support alternative frameworks like MapReduce. There is thus an increasing contention on scarce data center resources like network bandwidth; further, the energy requirements for powering the computing equipment are also growing dramatically. As we show empirically, increasing the execution parallelism by spreading out data across a large number of machines may achieve the intended goal of decreasing query latencies, but in most cases, may increase the total resource and energy consumption significantly. For many analytical workloads, however, minimizing query latencies is often not critical; in such scenarios, we argue that we should instead focus on minimizing the average query span, i.e., the average number of machines that are involved in processing of a query, through colocation of data items that are frequently accessed together. In this work, we exploit the fact that most distributed environments need to use replication for fault tolerance, and we devise workload-driven replica selection and placement algorithms that attempt to minimize the average query span. We model a historical query workload trace as a hypergraph over a set of data items, and formulate and analyze the problem of replica placement by drawing connections to several well-studied graph theoretic concepts. We develop a series of algorithms to decide which data items to replicate, and where to place the replicas. We show effectiveness of our proposed approach by presenting results on a collection of synthetic and real workloads. Our experiments show that careful data placement and replication can dramatically reduce the average query spans resulting in significant reductions in the resource consumption.

연구 동기 및 목표

• 높은 병렬성과 통신 오버헤드로 인해 대규모 분산 데이터 관리 시스템에서 자원 및 에너지 비용이 증가하고 있음에 대비하여 대응한다.
• 분석 워크로드의 경우 쿼리 지연 시간 최소화보다 총 자원 및 에너지 소비 감소가 더 중요하다는 점을 인식한다.
• 자원 및 에너지 소비 감소의 대체 지표로 쿼리 실행에 관여하는 머신 수인 평균 쿼리 스펜을 최소화하는 데 초점을 맞춘다.
• 역사적 쿼리 워크로드를 기반으로 자주 액세스되는 데이터 항목을 함께 위치시키기 위해 데이터 배치 및 레플리카 선택을 통합한 프레임워크를 개발한다.
• 초그래프 모델링을 사용하여 문제를 수식화하고, 알고리즘 설계를 안내하기 위해 잘 연구된 그래프 이론적 개념과 연관시킨다.

제안 방법

• 쿼리 워크로드의 역사를 초그래프로 모델링하며, 데이터 항목은 노드로, 다수의 데이터 항목을 액세스하는 쿼리는 초간선으로 표현한다.
• 초그래프 구조를 활용해 자주 함께 액세스되는 데이터 항목을 식별하고, 공유 위치를 향상시키기 위해 레플리카 배치 결정을 이끌어낸다.
• 각 머신당 최대 로드를 최소화하면서도 공유 위치를 향상시키기 위해 히우리스틱으로 LMBR(Lowest Maximum Block Ratio) 알고리즘을 제안한다.
• 초그래프 기반 최적화 문제로 데이터 배치 및 복제 문제를 제약 조건이 있는 최적화 작업으로 공식화하며, 그래프 분할 및 클러스터링 개념을 응용한다.
• 합성, TPC-H 스타일, ISPD98 벤치마크 데이터 세트에서 제안된 알고리즘의 성능을 평가하기 위해 트레이스 기반 시뮬레이션 프레임워크를 구현한다.
• 평균 쿼리 스펜 및 실행 시간과 같은 메트릭을 사용해 LMBR를 HPA(Hierarchical Partitioning Algorithm) 및 기타 히우리스틱 기반 기준 방법과 비교한다.

실험 결과

연구 질문

• RQ1 지능적인 데이터 배치 및 복제가 분산 분석 워크로드에서 평균 쿼리 스펜을 줄일 수 있는가?
• RQ2 쿼리 스펜을 최소화하는 것이 대규모 데이터 센터에서 총 자원 및 에너지 소비에 어떤 영향을 미치는가?
• RQ3 쿼리 워크로드를 초그래프로 모델링하면 자주 액세스되는 데이터 항목의 공유 위치를 얼마나 향상시킬 수 있는가?
• RQ4 LMBR와 같은 그래프 이론적 알고리즘이 기준 히우리스틱 대비 쿼리 스펜 최소화에 얼마나 효과적인가?
• RQ5 데이터 편향과 이질적인 데이터 크기는 데이터 배치 알고리즘의 성능에 어떤 영향을 미치는가?

주요 결과

• 동일한 데이터에 대해 45개 파artition에서 LMBR 알고리즘은 평균 쿼리 스펜 1.5를 기록했고, 기준 HPA 대비 3.5보다 57% 낮은 성능을 보였다.
• 이질적인 데이터 크기를 가진 TPC-H 스타일 워크로드(스케일 팩터 25)에서도 LMBR는 다른 알고리즘을 앞서나갔지만, 데이터 크기 편향으로 인해 성능 격차는 좁아졌다.
• ISPD98 벤치마크에서 LMBR는 35개 파artition에서 이론적 최소값(1)에 가까운 평균 쿼리 스펜을 달성했고, 다른 알고리즘은 20~40% 더 나쁜 성능을 보였다.
• 결과는 쿼리 스펜 최적화가 병렬성 감소에도 불구하고 통신 오버헤드와 총 자원 소비를 크게 줄임을 입증한다.
• 쿼리 실행에 관여하는 머신 수를 최소화함으로써 에너지 소비를 효과적으로 줄여 지속 가능한 데이터 센터 운영 목표에 부합한다.
• 연구는 워크로드 기반 데이터 배치와 복제가 분산 시스템에서 조정 및 네트워크 오버헤드를 극적으로 줄일 수 있음을 확인한다.