[논문 리뷰] Execution Templates: Caching Control Plane Decisions for Strong Scaling of Data Analytics

Omid Mashayekhi, Hang Qu외 2명|arXiv (Cornell University)|2017. 05. 04.

Cloud Computing and Resource Management참고 문헌 29인용 수 12

한 줄 요약

이 논문은 실행 템플릿을 소개한다. 실행 템플릿은 중앙집중식 스케줄링과 세밀한 작업 제어를 가능하게 하면서도 분산 시스템의 높은 처리량을 달성하는 제어 평면 추상화이다. 평가 결과, 1초당 500,000개의 작업까지 확장 가능한 성능을 보였다. 자주 실행되는 제어 흐름 블록을 캐시하고 동적 편집 또는 템플릿 교체를 허용함으로써 실행 템플릿은 성능을 희생하지 않은 채 스케줄링의 유연성을 유지하며, 데이터 분석 워크로드에서 강력한 확장성을 실현한다.

ABSTRACT

Control planes of cloud frameworks trade off between scheduling granularity and performance. Centralized systems schedule at task granularity, but only schedule a few thousand tasks per second. Distributed systems schedule hundreds of thousands of tasks per second but changing the schedule is costly. We present execution templates, a control plane abstraction that can schedule hundreds of thousands of tasks per second while supporting fine-grained, per-task scheduling decisions. Execution templates leverage a program's repetitive control flow to cache blocks of frequently-executed tasks. Executing a task in a template requires sending a single message. Large-scale scheduling changes install new templates, while small changes apply edits to existing templates. Evaluations of execution templates in Nimbus, a data analytics framework, find that they provide the fine-grained scheduling flexibility of centralized control planes while matching the strong scaling of distributed ones. Execution templates support complex, real-world applications, such as a fluid simulation with a triply nested loop and data dependent branches.

연구 동기 및 목표

• CPU와 작업 처리량이 증가하는 상황에서도 강력한 확장성에 제약을 주는 데이터 분석 프레임워크의 제어 평면에서의 성능 저하 문제를 해결하기 위해.
• 현대 데이터 분석 시스템에서 세밀한 스케줄링(중앙집중식)과 높은 작업 처리량(분산식) 사이의 상충 관계를 조화시키기 위해.
• 낮은 지연 시간과 높은 처리량을 유지하면서도 동적이고 데이터 기반의 제어 흐름을 지원하는 제어 평면 추상화를 설계하기 위해.
• 실행 템플릿을 실제 워크로드에서 평가하여, 중첩 루프와 조건부 분기 구조를 포함한 복잡한 시뮬레이션을 포함하기 위해.
• 실행 템플릿이 분산형 데이터 플로우 시스템의 성능을 따라잡으면서도 중앙집중식 제어기의 스케줄링 유연성을 유지할 수 있음을 입증하기 위해.

제안 방법

• 실행 템플릿은 컨트롤러에 자주 실행되는 작업 블록을 캐시함으로써 반복적인 스케줄링 결정을 줄인다.
• 템플릿은 단일 메시지 전송으로 인스턴스화되며, 이로 인해 대규모 스케일에서 저지연 시간의 작업 실행이 가능해진다.
• 소규모 스케줄링 변경은 기존 템플릿에 대한 동적 편집을 통해 적용되며, 주요 변경 사항은 새로운 템플릿 설치를 통해 처리된다.
• 시스템은 효율적인 템플릿 생성을 위해 프로그램 분석을 사용하며, 배포 이전에 사전 조건을 검증한다.
• 패치 메커니즘을 통해 런타임 동안 시스템 상태와 제어 흐름을 업데이트할 수 있으며, 이는 데이터 기반 분기와 느린 작업 대응에 유용하다.
• 실행 템플릿은 데이터 분석 프레임워크인 Nimbus에 통합되었으며, 워커는 컨트롤러의 간섭 없이 캐시된 템플릿에서 작업을 실행한다.

실험 결과

연구 질문

• RQ1 제어 평면 추상화가 세밀한 스케줄링의 유연성과 1초당 수십만 개의 작업까지의 강력한 확장성을 동시에 달성할 수 있는가?
• RQ2 장기 실행 분석 작업에서 반복적인 제어 흐름을 어떻게 활용하여 제어 평면 오버헤드를 줄일 수 있는가?
• RQ3 캐시된 템플릿 기반 스케줄링 모델 내에서 동적 제어 흐름과 데이터 기반 분기 구조를 어느 정도까지 지원할 수 있는가?
• RQ4 실제 워크로드에서 실행 템플릿의 성능이 중앙집중식 스케줄러(예: Spark)와 분산형 데이터 플로우 시스템(예: Naiad)과 비교해 어떻게 되는가?
• RQ5 실행 템플릿은 짧은 실행 시간을 가진 작업을 포함한 복잡한 프로덕션 수준의 분석 워크로드, 예를 들어 유체 역학 시뮬레이션을 지원할 수 있는가?

주요 결과

• Nimbus 프레임워크에서 실행 템플릿은 1초당 500,000개의 작업을 처리하는 처리량을 달성했으며, 분산형 데이터 플로우 시스템의 강력한 확장성과 동일한 성능을 보였다.
• 시스템은 기존 템플릿의 인라인 편집을 통해 동적 스케줄링 변경을 지원하여, 느린 작업이나 장애 발생 시 저지연 시간 반응이 가능했다.
• 실행 템플릿은 복잡한 워크로드를 성공적으로 처리했으며, 100μs의 짧은 실행 시간을 가진 PhysBAM 입자-레벨셋 물방울 시뮬레이션과 삼중 중첩 루프를 포함한 워크로드를 처리했다.
• 평가 결과, 실행 템플릿은 고처리량 환경에서 Spark의 중앙집중식 스케줄러보다 성능이 뛰어나면서도 작업별 스케줄링의 유연성을 유지했다.
• 런타임 패치를 통해 동적 제어 흐름을 실현함으로써, 실행을 재시작하지 않고도 데이터 기반 분기와 상태 업데이트가 가능했다.
• 실행 템플릿은 다수의 활성 템플릿, 동적 편집, 런타임 재구성 기능을 지원함으로써 정적 데이터 플로우 그래프 개념을 일반화했다.