[논문 리뷰] Towards Stochastically Optimizing Data Computing Flows

Farshid Farhat, Diman Zad Tootaghaj외 1명|arXiv (Cornell University)|2016. 07. 14.

Cloud Computing and Resource Management참고 문헌 18인용 수 4

한 줄 요약

이 논문은 분산 시스템 내 데이터 처리 워크플로우를 위한 확률적 최적화 프레임워크를 제안하며, 대기 이론을 사용해 작업 실행 시간을 모델링하여 종단 간 응답 시간을 최소화한다. 데이터 액세스 포인트(DAP)에서의 서비스 시간 분포를 모니터링하고 서버 이질성과 확률적 행동을 바탕으로 동적으로 작업을 할당함으로써, 기준 히وري스틱 기반 대비 평균 응답 시간을 최대 54% 감소시키고 분산 정도를 최대 71% 감소시킨다. 이는 낮은 오버헤드로 최적 성능에 가까운 성능을 달성한다.

ABSTRACT

With rapid growth in the amount of unstructured data produced by memory-intensive applications, large scale data analytics has recently attracted increasing interest. Processing, managing and analyzing this huge amount of data poses several challenges in cloud and data center computing domain. Especially, conventional frameworks for distributed data analytics are based on the assumption of homogeneity and non-stochastic distribution of different data-processing nodes. The paper argues the fundamental limiting factors for scaling big data computation. It is shown that as the number of series and parallel computing servers increase, the tail (mean and variance) of the job execution time increase. We will first propose a model to predict the response time of highly distributed processing tasks and then propose a new practical computational algorithm to optimize the response time.

연구 동기 및 목표

• 분산 시스템에서의 확률적 성능 변동(지연자)으로 인한 빅데이터 분석의 확장성 한계를 해결한다.
• 하둡과 맵리듀스와 같은 비확률적, 결정론적 프레임워크에서의 결정론적 스케줄링의 한계를 극복한다.
• 실시간 서버 서비스 시간 분포 모니터링을 활용해 실용적이고 낮은 오버헤드의 작업 스케줄링 최적화 방법을 개발한다.
• 직렬 및 병렬 구성 요소를 모두 포함하는 데이터플로우 워크플로우에서 종단 간 작업 실행 시간을 최소화한다.
• 분석적 대기 이론 모델과 실용적 스케줄링을 연결하기 위해 클라우드 리소스를 확률적 대기 블록으로 모델링한다.

제안 방법

• 확률적 서비스 시간 분포를 가진 직렬/병렬 컴퓨팅 구성 요소(SDCC/PDCC)로 분산 데이터플로우를 모델링한다.
• 각 데이터 액세스 포인트(DAP)에서 응답 시간 분포(예: 지수분포, 파레토 분포 등)를 모니터링하고 추적하여 서버 이질성을 포착한다.
• 평형 기반 작업 할당률 할당을 사용: λ₁RT_DCC₁ = λ₂RT_DCC₂ = ... = λₙRT_DCCₙ 을 통해 DCC 간 부하를 균형 있게 분배한다.
• SDCC 또는 PDCC 유형과 서버 성능을 기반으로 작업을 DCC에 할당하는 계층적 스케줄링 알고리즘(알고리즘 3)을 구현한다.
• 서버의 서비스 속도와 현재 대기 행동을 기반으로 워크로드를 서버에 할당하기 위해 DCC_allocate 및 PDCC_allocate 서브루틴을 적용한다.
• 동일성 가정을 피하고 실제 시스템 성능의 실시간 확률적 변동을 모델링하는 동적이고 데이터 기반의 접근 방식을 사용한다.

실험 결과

연구 질문

• RQ1 직렬 또는 병렬 처리 구성 요소의 수가 증가할수록 분산 시스템에서 종단 간 작업 실행 시간의 평균과 분산에 어떤 영향을 미치는가?
• RQ2 서버 서비스 시간의 확률적 모델링이 결정론적, 동일성 가정에 비해 작업 스케줄링 성능을 향상시킬 수 있는가?
• RQ3 이질적이고 확률적인 데이터플로우 워크로드에서 종단 간 응답 시간을 최소화하는 최적의 작업 할당 전략은 무엇인가?
• RQ4 실용적이고 낮은 오버헤드의 스케줄링 알고리즘이 평균 및 분산 감소 측면에서 최적 해에 얼마나 가까이 도달할 수 있는가?
• RQ5 DAP 서비스 시간 분포를 모니터링하는 것으로 빅데이터 파이프라인에서 더 나은 로드 밸런싱과 지연자 완화를 얼마나 달성할 수 있는가?

주요 결과

• 제안된 방법은 다양한 시나리오에서 히وري스틱 기반 기준 대비 평균 응답 시간을 최대 54% 감소시킨다.
• 기준 대비 응답 시간의 분산을 71% 감소시켜 예측 가능성을 크게 향상시킨다.
• 지연된 지수분포, 파레토 분포 및 혼합 분포를 사용한 모든 시험 시나리오에서 제안된 방법은 평균 및 분산 측면에서 기준보다 우수한 성능을 보였다.
• 완전 탐색을 통해 계산된 최적 해에 근접한 성능를 달성하여 강력한 실용적 효과를 입증했다.
• 확률적 서버 행동을 모델링함으로써 대규모 데이터플로우에서 지연자와 장시간 응답 시간의 영향을 효과적으로 완화한다.
• 기계 학습 기반 대안보다 오버헤드가 낮아 대규모 클라우드 및 데이터센터 배포에 적합하다.