[논문 리뷰] ROME: A Multi-Resource Job Scheduling Framework for Exascale HPC Systems

Yuping Fan|arXiv (Cornell University)|2021. 08. 18.

Distributed and Parallel Computing Systems참고 문헌 8인용 수 7

한 줄 요약

ROME는 엑사스케일 HPC 시스템을 위한 다중 자원 작업 스케줄링 프레임워크로, 유전 알고리즘을 사용하여 컴퓨팅 노드, 버스트 버퍼, 메모리 등의 다양한 자원의 활용도를 최적화하면서 창문 기반 메커니즘을 통해 작업의 공정성을 유지한다. 추적 기반 시뮬레이션에서 Mira 로그를 사용한 결과, 자원 활용도를 최대 20% 향상시키고 평균 작업 대기 시간을 감소시킨다.

ABSTRACT

High-performance computing (HPC) is undergoing significant changes. Next generation HPC systems are equipped with diverse global and local resources, such as I/O burst buffer resources, memory resources (e.g., on-chip and off-chip RAM, external RAM/NVRA), network resources, and possibly other resources. Job schedulers play a crucial role in efficient use of resources. However, traditional job schedulers are single-objective and fail to efficient use of other resources. In this paper, we propose ROME, a novel multi-dimensional job scheduling framework to explore potential tradeoffs among multiple resources and provides balanced scheduling decision. Our design leverages genetic algorithm as the multi-dimensional optimization engine to generate fast scheduling decision and to support effective resource utilization.

연구 동기 및 목표

• 버스트 버퍼, 메모리, 네트워크 등의 다양한 글로벌 및 로컬 자원을 통합하는 엑사스케일 HPC 시스템의 복잡성 증가에 대응한다.
• 다양한 자원 유형을 효율적으로 관리하지 못하는 전통적 단일 목표 작업 스케줄러의 한계를 극복한다.
• 엄격한 시간 제약 조건(30초 이내) 하에서 다차원 최적화를 처리할 수 있는 확장성 있고 실시간 스케줄링 솔루션을 개발한다.
• 창문 기반 메커니즘을 통해 작업 순서를 유지함으로써 공정성과 성능을 균형 잡는다.
• 결정 기준을 통해 서로 충돌하는 자원 목표 간의 효과적인 트레이드오프를 가능하게 하며, 우선적으로 컴퓨팅 활용도를 최대화하면서 다른 자원 활용도를 향상시킨다.

제안 방법

• 대기 큐를 정렬한 후 처음 w개의 작업을 선택하는 창문 기반 메커니즘을 도입하여 스케줄링 범위를 제한하고 공정성을 유지한다.
• 다차원 스케줄링 문제를 이목표 최적화 문제로 공식화하여 자원 용량 제약 조건 하에서 컴퓨팅 노드 활용도와 버스트 버퍼 활용도를 최대화한다.
• 유전 알고리즘(GA)을 사용하여 큰 해 공간(2^w)을 효율적으로 탐색하고 30초 이내에 비지배적 스케줄링 솔루션을 생성한다.
• 세대 간에 교차 및 변이 연산을 적용하여 고품질의 스케줄링 솔루션을 진화시킨다.
• 결정 기준은 먼저 컴퓨팅 활용도를 최대화하는 솔루션을 선택하고, 이후 다른 자원 활용도가 40% 이상 향상되면서 컴퓨팅 활용도가 10% 이내로 감소할 경우에만 이를 교체한다.
• 각 스케줄링 인스턴스(작업 제출 또는 완료 시 발생)에서 실시간 자원 활용도 데이터(예: 사용된 노드, 버스트 버퍼, 메모리)를 스케줄러에 통합한다.

실험 결과

연구 질문

• RQ1 엑사스케일 HPC 시스템에서 컴퓨팅, 버스트 버퍼, 메모리 등의 이질적 자원을 효과적으로 관리할 수 있는 방법은 무엇인가?
• RQ2 유전 알고리즘이 다중 자원, 시간 제약 조건이 있는 환경에서 스케줄링 성능과 솔루션 품질에 미치는 영향은 무엇인가?
• RQ3 창문 기반 메커니즘이 효율적인 다중 자원 최적화를 가능하게 하면서도 작업의 공정성을 유지할 수 있는가?
• RQ4 비지배적 최적 솔루션 집합에서 하나의 선호 솔루션을 효과적으로 선택하기 위한 트레이드오프 전략은 무엇인가?
• RQ5 다차원 스케줄링은 실제 HPC 워크로드에서 작업 대기 시간을 얼마나 줄이고 자원 활용도를 향상시킬 수 있는가?

주요 결과

• ROME는 Mira 로그를 사용한 추적 기반 시뮬레이션에서 기존 스케줄러 대비 전체 시스템 자원 활용도를 최대 20% 향상시켰다.
• 이 프레임워크는 컴퓨팅, 버스트 버퍼, 메모리 자원 간의 자원 할당을 효과적으로 균형 잡음으로써 평균 작업 대기 시간을 감소시켰다.
• 유전 알고리즘 솔버는 요구되는 30초 이내에 고품질의 스케줄링 솔루션을 생성하여 실시간 구현에 적합하다.
• 결정 기준은 컴퓨팅 활용도를 우선시하면서도 다른 자원 활용도를 40% 이상 향상시키며 컴퓨팅 성능 저하를 최소화하여 선호 솔루션을 성공적으로 식별했다.
• 창문 기반 메커니즘은 작업 순서와 공정성을 유지하면서도 대규모 작업 큐의 스케줄링을 확장 가능하게 했다.
• 다차원 최적화 모델은 시스템 전체 자원 제약 조건 하에서 버스트 버퍼 활용도와 컴퓨팅 노드 활용도 간의 상충 관계를 효과적으로 반영했다.