[논문 리뷰] Towards Accommodating Real-time Jobs on HPC Platforms

Sam Nickolay, Eun-Sung Jung외 2명|arXiv (Cornell University)|2021. 03. 24.

Distributed and Parallel Computing Systems참고 문헌 49인용 수 6

한 줄 요약

이 논문은 실시간 작업의 실행을 가능하게 하면서 배치 작업 성능을 심각하게 떨어뜨리지 않는 HPC 플랫폼에서 실시간 작업을 실행하기 위해, 보완적인 실시간 체크포인팅과 함께 새로운 휴리스틱 스케줄링 알고리즘인 가중 비용 작업 스케줄링(Weighted Cost Job Scheduling, WCJS)을 제안한다. 미라 초고성능 컴퓨터의 트레이스 데이터를 사용하여, 실시간 작업 비율이 10%일 경우 실시간 작업의 슬로우다운을 35% 감소시키면서도 배치 작업의 슬로우다운은 오직 10%만 증가시키며, 이는 생산용 HPC 시스템에서의 강력한 실용 가능성임을 보여준다.

ABSTRACT

Increasing data volumes in scientific experiments necessitate the use of high-performance computing (HPC) resources for data analysis. In many scientific fields, the data generated from scientific instruments and supercomputer simulations must be analyzed rapidly. In fact, the requirement for quasi-instant feedback is growing. Scientists want to use results from one experiment to guide the selection of the next or even to improve the course of a single experiment. Current HPC systems are typically batch-scheduled under policies in which an arriving job is run immediately only if enough resources are available; otherwise, it is queued. It is hard for these systems to support real-time jobs. Real-time jobs, in order to meet their requirements, should sometimes have to preempt batch jobs and/or be scheduled ahead of batch jobs that were submitted earlier. Accommodating real-time jobs may negatively impact system utilization also, especially when preemption/restart of batch jobs is involved. We first explore several existing scheduling strategies to make real-time jobs more likely to be scheduled in due time. We then rigorously formulate the problem as a mixed-integer linear programming for offline scheduling and develop novel scheduling heuristics for online scheduling. We perform simulation studies using trace logs of Mira, the IBM BG/Q system at Argonne National Laboratory, to quantify the impact of real-time jobs on batch job performance for various percentages of real-time jobs in the workload. We present new insights gained from grouping jobs into different categories based on runtime and the number of nodes used and studying the performance of each category. Our results show that with 10% real-time job percentages, just-in-time checkpointing combined with our heuristic can improve the slowdowns of real-time jobs by 35% while limiting the increase of the slowdowns of batch jobs to 10%.

연구 동기 및 목표

• 기존의 배치 스케줄링에 특화된 HPC 시스템에 실시간 작업을 통합하는 데 도전하는 것 — 이는 낮은 지연 시간과 즉각적인 실행을 위한 기본 설계가 되어 있지 않다.
• 다양한 작업 유형에서의 배치 작업 처리량과 시스템 활용도에 대한 실시간 작업의 영향을 평가하는 것.
• 실시간 작업의 프리에임프션과 우선순위 부여를 가능하게 하면서도 배치 작업에 대한 영향을 최소화하는 실용적이고 확장 가능한 스케줄링 휴리스틱을 개발하는 것.
• 실제 트레이스 데이터를 기반으로 오프라인 스케줄링을 위한 최적의 혼합정수선형계획법(MILP) 공식화와 비교하여, 제안된 휴리스틱의 효과성을 검증하는 것.

제안 방법

• 실시간 작업 스케줄링 문제를 오프라인 최적 스케줄링을 위해 혼합정수선형계획법(MILP)으로 공식화하여, 휴리스틱 성능의 기준을 마련한다.
• 긴급도, 자원 요구량, 프리에임프션 영향을 고려한 가중 비용 함수를 기반으로 실시간 작업을 우선순위화하는 새로운 온라인 스케줄링 휴리스틱인 가중 비용 작업 스케줄링(WCJS)을 설계한다.
• 프리에임프션으로 인한 상태 손실과 재시작 시간을 최소화함으로써 프리에임프션의 오버헤드를 줄이기 위해 실시간 체크포인팅(Just-in-Time, JIT)을 도입한다.
• 실행 시간과 노드 수에 따라 작업을 분류(예: 좁고 짧은, 넓고 긴)하여 다양한 워크로드 유형에서의 성능 변화를 분석한다.
• 아르곤나 국립연구소의 미라 IBM BG/Q 시스템에서의 트레이스 로그를 사용하여, 실시간 작업 비율이 다양하게 변화하는 실제 HPC 워크로드를 시뮬레이션한다(최대 10%).
• 소규모 문제 인스턴스에서 WCJS 휴리스틱을 최적의 MILP 공식화와 비교하여, 근사 최적성의 정도를 검증하고 향후 개선 가능 영역을 식별한다.

실험 결과

연구 질문

• RQ1 기존의 스케줄링 전략들이 HPC 환경에서 배치 워크로드를 처리하는 데서 실시간 작업을 지원하도록 적응했을 때 성능은 어떻게 되는가?
• RQ2 실시간 작업이 프리에임프션 또는 우선순위 부여를 통해 실행될 수 있을 경우, 실시간 작업의 반응성과 배치 작업의 슬로우다운 간의 성능 트레이드오프는 어떠한가?
• RQ3 실시간 체크포인팅은 프리에임프션 오버헤드를 얼마나 줄여주며, 실시간 작업 스케줄링 효율을 얼마나 향상시킬 수 있는가?
• RQ4 제안된 WCJS 휴리스틱은 실시간 작업의 슬로우다운과 자원 활용도 측면에서 최적의 MILP 기반 오프라인 공식화와 비교해 어떤 성능을 보이는가?
• RQ5 실행 시간과 노드 수에 따라 분류된 작업 유형 중에서 실시간 작업의 프리에임프션에 가장 민감한 것은 무엇이며, 이러한 유형에 맞는 스케줄링 정책은 어떻게 설계할 수 있는가?

주요 결과

• 워크로드에 실시간 작업 비율이 10%일 경우, 제안된 WCJS 휴리스틱과 실시간 체크포인팅을 결합하여 실시간 작업의 슬로우다운을 1.94에서 1.25로 35% 향상시켰다.
• 동일한 설정에서 배치 작업의 슬로우다운은 오직 2.26에서 2.51로 10%만 증가하여, 기존 워크로드에 대한 부정적 영향가 최소화됨을 보여준다.
• 실시간 작업의 가장 큰 성능 향상은 넓고 긴(N:wide-long) 카테고리에서 발생하였으며, 슬로우다운이 3.0에서 1.2로 감소(60% 감소), 넓고 짧은(N:wide-narrow) 카테고리에서는 24.40에서 5.06로 감소(80% 감소)하였다.
• 좁고 짧은(N:narrow-short) 작업 카테고리의 경우 기존에 낮은 슬로우다운 수준이었기 때문에 개선 폭이 가장 작았지만(20%), 여전히 하중 하에서 합리적인 슬로우다운 수준인 1.94를 유지하였다.
• 소규모 테스트 케이스에서 WCJS 휴리스틱은 실시간 작업의 슬로우다운에서 최적의 MILP 공식화 대비 38% 떨어지고, 배치 작업의 슬로우다운에서는 69% 떨어지며, 향후 휴리스틱 개선 여지가 있음을 시사한다.
• 연구는 체크포인팅이 불가능한 배치 작업이 제한 요소임을 밝혀내었으며, 이는 안전한 프리에임프션을 보장할 수 없어 실시간 작업의 슬로우다운이 워크로드 내 비율에 따라 높아질 수 있음을 의미한다.