[논문 리뷰] DRS: Dynamic Resource Scheduling for Real-Time Analytics over Fast Streams

Tom Z. J. Fu, Jianbing Ding외 4명|arXiv (Cornell University)|2015. 01. 15.

Cloud Computing and Resource Management참고 문헌 31인용 수 12

한 줄 요약

DRS는 클라우드 기반 데이터 스트림 관리 시스템(DSMS)을 위한 동적 리소스 스케줄러로, 대기 이론 기반 성능 모델을 사용하여 실시간으로 연산자 간 리소스 할당을 최적화한다. 정확한 프로세서 수 예측을 통해 저지연 응답을 보장하며, 자원 낭비를 줄이고, 워크로드 변동 상황에서도 실시간 제약 조건을 유지한다.

ABSTRACT

In a data stream management system (DSMS), users register continuous queries, and receive result updates as data arrive and expire. We focus on applications with real-time constraints, in which the user must receive each result update within a given period after the update occurs. To handle fast data, the DSMS is commonly placed on top of a cloud infrastructure. Because stream properties such as arrival rates can fluctuate unpredictably, cloud resources must be dynamically provisioned and scheduled accordingly to ensure real-time response. It is quite essential, for the existing systems or future developments, to possess the ability of scheduling resources dynamically according to the current workload, in order to avoid wasting resources, or failing in delivering correct results on time. Motivated by this, we propose DRS, a novel dynamic resource scheduler for cloud-based DSMSs. DRS overcomes three fundamental challenges: (a) how to model the relationship between the provisioned resources and query response time (b) where to best place resources; and (c) how to measure system load with minimal overhead. In particular, DRS includes an accurate performance model based on the theory of \emph{Jackson open queueing networks} and is capable of handling \emph{arbitrary} operator topologies, possibly with loops, splits and joins. Extensive experiments with real data confirm that DRS achieves real-time response with close to optimal resource consumption.

연구 동기 및 목표

• 실시간 데이터 스트림 처리 시스템에서 클라우드 리소스를 동적으로 스케줄링하는 문제를 해결하기 위해.
• 각 연산자에 필요한 계산 자원을 정확히 추정하여 저지연 응답을 보장하기 위해.
• 부적절한 프로세서 할당으로 인한 자원 낭비와 시스템 불안정성을 방지하기 위해.
• 복잡한 루프나 분기 구조를 가진 연산자 토폴로지에서 효율적이고 확장 가능한 리소스 제공을 가능하게 하기 위해.
• 실시간 성능 보장을 유지하면서도 스케줄링 오버헤드를 최소화하기 위해.

제안 방법

• DRS는 도착률과 처리률을 기반으로 응답 시간을 예측하기 위해 잭슨 개방 대기열 네트워크 모델을 사용한다.
• 분할, 병합, 피드백 루프를 고려한 성능 모델을 활용해 실시간으로 최적의 프로세서 할당을 동적으로 계산한다.
• 최소한의 오버헤드로 시스템 메트릭을 모니터링하고, 응답 시간이 임계값을 초과할 경우 재할당을 트리거한다.
• 워크로드 변화에 대응하기 위해 자원 추가(스케일아웃) 및 제거(스케일인)를 모두 지원한다.
• Apache Storm과 통합되어 가벼운 재균형 메커니즘을 사용해 이주 비용을 최소화한다.
• 측정 및 스케줄링 로직을 분리하여, 측정은 총 자원 수에 의존하지 않으며, 스케줄링은 총 실행자 수에 대해 선형이다.

실험 결과

연구 질문

• RQ1 어떻게 동적 리소스 스케줄러가 실시간 응답 제약 조건을 충족하기 위해 필요한 프로세서 수를 정확히 예측할 수 있는가?
• RQ2 복잡하고 가능성이 순환적인 연산자 토폴로지에서 스트리밍 시스템의 자원을 가장 효율적으로 스케줄링하는 방법은 무엇인가?
• RQ3 최소한의 모니터링 오버헤드로 시스템 부하를 측정하면서도 스케줄링 정확도를 유지할 수 있는 방법은 무엇인가?
• RQ4 스케줄러 자체의 성능 오버헤드는 얼마이며, 시스템 크기에 따라 어떻게 확장되는가?
• RQ5 런타임 중 자원 재구성은 어떻게 수행할 수 있으며, 이로 인한 교란과 지연을 최소화할 수 있는가?

주요 결과

• DRS는 실제 영상 분석 워크로드를 기반으로 검증되었을 때, 거의 최적의 자원 소비로 실시간 응답을 달성한다.
• 입력 속도가 예측 불가능하게 변동하는 고부하 상황에서도 응답 시간이 500ms 이하로 유지된다.
• DRS의 계산 오버헤드는 극히 미미하며, 모든 테스트 환경에서 스케줄링 시간은 1.3ms 이하, 측정 시간은 0.1ms 이하이다.
• DRS의 재균형은 스케일업과 스케일다운 상황에서 모두 Storm의 기본 메커니즘보다 훨씬 낮은 오버헤드를 유발한다.
• 이론적 가정(예: 지수 분포 서비스 시간)이 실질적으로 완벽하게 충족되지 않더라도 성능 모델은 여전히 강건하다.
• 피드백 루프를 포함한 복잡한 토폴로지에서 과부하 전파를 사전에 방지하기 위해 자원 할당을 능동적으로 조정함으로써 성공적으로 기능한다.