[논문 리뷰] Predicting Scheduling Failures in the Cloud

Mbarka Soualhia, Foutse Khomh외 1명|PolyPublie (École Polytechnique de Montréal)|2015. 07. 13.

Cloud Computing and Resource Management참고 문헌 24인용 수 6

한 줄 요약

이 논문은 Google 클라우드 클러스터에서의 역사적 작업 및 리소스 활용도 데이터를 사용하여 사전에 스케줄링 실패를 예측하는 통계적 실패 예측 모델을 제안한다. 랜덤 포레스트를 적용하여 97.4%의 정밀도와 96.2%의 재현율을 달성함으로써 작업 결과를 예측하고, 이로 인해 사전에 재스케줄링이 가능해져 시뮬레이션에서는 작업 실패를 최대 40% 감소시키고, Hadoop 작업 실패를 45% 감소시키며 5분 이내의 추가 오버헤드로도 성능을 확보한다.

ABSTRACT

Cloud Computing has emerged as a key technology to deliver and manage computing, platform, and software services over the Internet. Task scheduling algorithms play an important role in the efficiency of cloud computing services as they aim to reduce the turnaround time of tasks and improve resource utilization. Several task scheduling algorithms have been proposed in the literature for cloud computing systems, the majority relying on the computational complexity of tasks and the distribution of resources. However, several tasks scheduled following these algorithms still fail because of unforeseen changes in the cloud environments. In this paper, using tasks execution and resource utilization data extracted from the execution traces of real world applications at Google, we explore the possibility of predicting the scheduling outcome of a task using statistical models. If we can successfully predict tasks failures, we may be able to reduce the execution time of jobs by rescheduling failed tasks earlier (i.e., before their actual failing time). Our results show that statistical models can predict task failures with a precision up to 97.4%, and a recall up to 96.2%. We simulate the potential benefits of such predictions using the tool kit GloudSim and found that they can improve the number of finished tasks by up to 40%. We also perform a case study using the Hadoop framework of Amazon Elastic MapReduce (EMR) and the jobs of a gene expression correlations analysis study from breast cancer research. We find that when extending the scheduler of Hadoop with our predictive models, the percentage of failed jobs can be reduced by up to 45%, with an overhead of less than 5 minutes.

연구 동기 및 목표

• 클라우드 환경, 특히 Google의 프로덕션 클러스터에서 작업 및 작업 실패의 빈도와 특성을 조사한다.
• 클라우드 로그에서의 이전 실행 및 리소스 활용도 데이터를 사용해 스케줄링 결과를 예측할 수 있는지 확인한다.
• 실행 시간 단축 및 작업 완료율 증가 등의 성능 향상 효과를 평가한다. 실패 예측을 작업 스케줄러에 통합함으로써 달성할 수 있는 성능 이점을 분석한다.
• Hadoop와 같은 실제 클라우드 프레임워크(예: Amazon EMR)에서 예측적 재스케줄링의 실용적 타당성과 영향을 입증한다.

제안 방법

• Google의 프로덕션 트레이스 데이터에서 작업 및 작업 속성(실행 시간, 스케줄링 시간, 리소스 사용량, 머신 워크로드, 스케줄링 제약 조건 등)을 추출한다.
• 로그 파일 내 상태 지표인 'Failed', 'Evicted', 'Lost', 또는 'Killed'를 사용해 실패한 작업 및 작업을 식별한다.
• 작업 수준의 실패를 작업 수준의 결과로 매핑하여 종속 작업 간의 연쇄 실패 영향을 분석한다.
• 예측 가능한 스케줄링 결과를 도출하기 위해 추출된 특징을 기반으로 여러 통계 모델(결정 트리, 부스팅, GLM, CTree, 랜덤 포레스트, 신경망)을 훈련 및 평가한다.
• 가장 높은 성능을 보인 모델(RF)을 GloudSim 및 Hadoop 스케줄러에 통합하여 예측된 실패에 대한 사전 재스케줄링을 시뮬레이션한다.
• 시뮬레이션 및 실제 구현 환경에서 완료된 작업 수, 작업 완료율, 실행 시간 단축 등의 지표를 사용해 성능 향상을 측정한다.

실험 결과

연구 질문

• RQ1 클라우드 환경에서 스케줄된 작업이나 작업이 실패, 강제 종료, 손실, 또는 종료되는 빈도는 얼마나 되는가?
• RQ2 클러스터 로그 파일과 이전 실행 데이터를 사용해 스케줄링 결과를 예측할 수 있는가?
• RQ3 실패 예측 및 사전 재스케줄링을 통해 달성할 수 있는 성능 향상은 무엇인가?
• RQ4 Hadoop와 같은 실제 스케줄러에 실패 예측 기능을 통합할 경우 작업 완료율과 시스템 오버헤드에 어떤 영향을 미치는가?

주요 결과

• Google 데이터셋에서 42%의 작업과 40%의 작업이 성공적으로 완료되지 않았으며, 실패의 대부분은 장시간 대기 및 실행 시간과 관련이 있었다.
• 랜덤 포레스트 모델은 작업 스케줄링 실패 예측에서 정밀도 97.4%와 재현율 96.2%를 달성하여 신경망을 포함한 다른 모델보다 뛰어난 성능을 보였다.
• GloudSim 시뮬레이션에서 예측 기반 재스케줄링 접근 방식은 완료된 작업 수를 최대 40% 증가시키고 실행 시간을 단축시켰다.
• Amazon EMR을 통해 Hadoop에 배포한 결과, 예측 스케줄러는 작업 실패를 최대 45% 감소시켰으며 추가 오버헤드는 5분 미만이었다.
• 이 연구는 사전 실패 예측 및 재스케줄링이 클라우드 시스템의 신뢰성과 효율성을 크게 향상시킬 수 있음을 입증한다.
• 결과적으로 실패 예측을 클라우드 스케줄러에 통합하면 높은 성능 비용 없이도 QoS를 향상시킬 수 있다.