[논문 리뷰] METAQ: Bundle Supercomputing Tasks

Evan Berkowitz|arXiv (Cornell University)|2017. 02. 20.

Distributed and Parallel Computing Systems인용 수 14

한 줄 요약

METAQ는 HPC 작업을 더 큰 작업으로 묶어 대량 할당에 대한 할인과 인centives를 활용하고, 유휴 시간을 줄이기 위해 짧은 작업을 동적으로 후행 배치할 수 있도록 하는 경량 bash 기반 시스템이다. 작업 제출과 작업 기술을 분리하여 협업적이고 효율적인 자원 사용을 가능하게 하며, 난잡한 묶음 처리 대비 최대 75%까지 낭비되는 계산 사이클을 줄인다.

ABSTRACT

We describe a light-weight system of bash scripts for efficiently bundling supercomputing tasks into large jobs, so that one can take advantage of incentives or discounts for requesting large allocations. The software can backfill computational tasks, avoiding wasted cycles, and can streamline collaboration between different users. It is simple to use, functioning similarly to batch systems like PBS, MOAB, and SLURM.

연구 동기 및 목표

• 작은 작업을 묶을 때 발생하는 실행 시간의 변동성과 노드의 미사용으로 인한 초초기화된 슈퍼컴퓨팅 작업 스케줄링의 비효율성을 해결하기 위해.
• 성능나 스루풋을 희생시키지 않고도 사용자가 대규모 작업에 대한 인centives와 할인을 활용할 수 있도록 하기 위해.
• 작업 정의를 작업 제출에서 분리함으로써 여러 사용자가 공유된 작업에 작업을 기여할 수 있도록 하여 협업을 간소화하기 위해.
• 더 큰 작업 할당 내에서 짧은 작업을 동적으로 후행 배치함으로써 낭비되는 계산 사이클을 줄이기 위해.
• 기존 HPC 배치 시스템인 SLURM, PBS, MOAB와 통합 가능한 간단하고 이식 가능하며 무료로 이용 가능한 도구를 제공하기 위해.

제안 방법

• 사용자가 자원 및 환경 사양을 포함한 작업 스크립트를 작성하고, 이를 전용 폴더에 저장한다. 이는 작업 스크립트와 별도로 이루어진다.
• 사용자는 할당 크기와 METAQ 구성 정보를 지정한 작업 스크립트를 배치 스케줄러에 제출한다.
• METAQ는 할당된 노드에서 작업 폴더에 있는 작업을 동적으로 실행하며, 실행과 자원 사용을 관리한다.
• 시스템은 장시간 실행되는 작업의 유휴 시간 내에 짧은 작업을 교차 배치함으로써 후행 배치를 가능하게 하여 노드의 유휴 시간을 최소화한다.
• 여러 사용자가 공유된 작업 폴더에서 작업을 소비하는 작업 스크립트를 제출할 수 있도록 하여 협업을 지원한다.
• METAQ는 모든 작업 및 시스템 동작을 로깅하며, 날짜 기반으로 이전 로그와 작업을 수동으로 삭제할 수 있다.

실험 결과

연구 질문

• RQ1 어떻게 HPC 워크로드를 효율적으로 묶어 유휴 시간을 줄이고 대규모 할당의 활용도를 높일 수 있는가?
• RQ2 작업 내부에서 개별 작업을 동적으로 후행 배치함으로써 난잡한 묶음 처리 대비 낭비되는 계산 사이클은 얼마나 줄일 수 있는가?
• RQ3 다양한 스케줄러와 자원 정책을 가진 HPC 환경에서 다수 사용자 간 협업을 어떻게 간소화할 수 있는가?
• RQ4 낮은 수준의 작업 관리자 대비 경량 bash 스크립트를 사용할 경우 발생하는 성능 및 확장성의 상충 관계는 무엇인가?
• RQ5 기존 HPC 인프라에 변경 없이도 단순하고 이식 가능한 시스템이 복잡하고 대규모 HPC 워크로드를 효과적으로 관리할 수 있는가?

주요 결과

• 유사한 8노드 작업을 난잡하게 묶을 경우, 실행 시간의 변동성과 성능 차이로 인해 약 25%의 계산 시간이 낭비되었다.
• METAQ를 사용한 동적 후행 배치로 유휴 시간이 약 5%로 감소하여 자원 효율성에서 75% 향상이 이루어졌다.
• 유휴 시간 감소로 인한 실질적인 계산 성능 향상은 약 1.27배로, 27%의 성능 향상에 해당한다.
• METAQ는 CalLat 협업 프로젝트가 약 5개월 간 6500만 노드 시간의 INCITE 할당을 256~512노드 작업을 통해 효율적으로 소비할 수 있도록 했다.
• 다양한 협업자가 공유된 작업 스크립트를 소비하는 작업 스크립트를 제출할 수 있었고, 이는 협업을 향상시키고 우선순위 누적 효과를 얻는 데 기여했으며, 진행 중인 작업을 중단하지 않았다.
• Titan에서 초기 서비스 노드 과부하가 발생했음에도 불구하고, 재조정된 자원 제한 내에서 사용할 경우 시스템은 견고하고 확장 가능함을 입증했다.