[논문 리뷰] Many-Task Computing and Blue Waters

Daniel S. Katz, Timothy G. Armstrong외 3명|arXiv (Cornell University)|2012. 02. 17.

Distributed and Parallel Computing Systems참고 문헌 37인용 수 14

한 줄 요약

이 논문은 블루 워터스 초고성능 컴퓨터에서 많은 작업 컴퓨팅(MTC) 워크로드를 향상된 방식으로 지원할 것을 주장하며, MTC의 고유한 요구사항—낮은 작업 디스패치 오버헤드, 효율적인 I/O, 동적 자원 할당—을 고려한 아키텍처적 및 정책적 변화를 제안한다. 同시에 MTC 응용 프로그램이 최소한의 수정만으로도 블루 워터스에서 이미 실행 가능하며, 대상 지향의 미들웨어 및 스케줄링 개선을 통해 크게 이점을 얻을 수 있음을 보여준다.

ABSTRACT

This report discusses many-task computing (MTC) generically and in the context of the proposed Blue Waters systems, which is planned to be the largest NSF-funded supercomputer when it begins production use in 2012. The aim of this report is to inform the BW project about MTC, including understanding aspects of MTC applications that can be used to characterize the domain and understanding the implications of these aspects to middleware and policies. Many MTC applications do not neatly fit the stereotypes of high-performance computing (HPC) or high-throughput computing (HTC) applications. Like HTC applications, by definition MTC applications are structured as graphs of discrete tasks, with explicit input and output dependencies forming the graph edges. However, MTC applications have significant features that distinguish them from typical HTC applications. In particular, different engineering constraints for hardware and software must be met in order to support these applications. HTC applications have traditionally run on platforms such as grids and clusters, through either workflow systems or parallel programming systems. MTC applications, in contrast, will often demand a short time to solution, may be communication intensive or data intensive, and may comprise very short tasks. Therefore, hardware and software for MTC must be engineered to support the additional communication and I/O and must minimize task dispatch overheads. The hardware of large-scale HPC systems, with its high degree of parallelism and support for intensive communication, is well suited for MTC applications. However, HPC systems often lack a dynamic resource-provisioning feature, are not ideal for task communication via the file system, and have an I/O system that is not optimized for MTC-style applications. Hence, additional software support is likely to be required to gain full benefit from the HPC hardware.

연구 동기 및 목표

• 많은 작업 컴퓨팅(MTC) 응용 프로그램의 특성과 기존 HPC 및 HTC 워크로드와의 차이점을 분석한다.
• 블루 워터스와 같은 기존 HPC 시스템이 MTC 워크로드를 지원하는 데에 있어 작업 스케줄링, I/O, 통신 측면에서 겪는 한계를 규명한다.
• 블루 워터스의 주요 아키텍처적 변화 없이도 MTC 응용 프로그램에 대해 더 효과적으로 작동할 수 있도록 구체적인 하드웨어 및 소프트웨어 개선 사항을 제안한다.
• 실행 파라다임에 따라 자원 할당을 결정하지 않고 과학적 성취도와 결과의 시급성에 따라 우선순위를 정하는 정책 변화를 주장하여, MTC 응용 프로그램이 능력 수준 자원에 접근할 수 있도록 한다.
• 응급 상황(예: 건강 또는 기후 급성 사태)에서 빠른 실행을 요구하는 MTC 응용 프로그램이 최소한의 시스템 수정만으로도 블루 워터스에서 더 빠른 솔루션 도달 시간을 확보할 수 있음을 입증한다.

제안 방법

• 공통적인 패턴과 시스템 요구사항을 도출하기 위해 기존 MTC 응용 프로그램(예: AstroPortal, BLAST, Montage, OOPS)을 조사했다.
• 작업의 크기, 데이터 종속성 구조, I/O 통신 패턴에 따라 MTC 응용 프로그램을 분류했다.
• 생산용 HPC 및 그리드 시스템(예: BG/P, XT5, Constellation)의 능력을 평가하여 MTC 워크로드 지원의 격차를 규명했다.
• 완전한 Linux 의미 체계, 중간 데이터용 로컬 파일 시스템, 워크플로우 매니저를 위한 유틸리티 워커 노드와 같은 아키텍처적 개선 사항을 제안했다.
• 유연한 스케줄링 분할 및 사용자 우아한 API를 통한 통신 패브릭 직접 액세스를 권장하여 MTC 미들웨어 통합을 향상시켰다.
• 미들웨어 작업을 오프로드하고 주 계산 노드의 경쟁을 줄이기 위해 I/O 프로세서의 도입을 주장했다.

실험 결과

연구 질문

• RQ1 MTC 응용 프로그램은 작업 구조, 통신, I/O 패턴 측면에서 기존 HPC 및 HTC 워크로드와 어떻게 다를까?
• RQ2 블루 워터스와 같은 기존 HPC 시스템에서 MTC 워크로드의 효율적 실행을 방해하는 구체적인 하드웨어 및 소프트웨어 한계는 무엇인가?
• RQ3 MTC 응용 프로그램을 저비용 디스패치 오버헤드와 고I/O 스루풋으로 효율적으로 지원하기 위해 필요한 아키텍처적 및 미들웨어 개선 사항은 무엇인가?
• RQ4 과학적 성취도에 따라 자원을 공정하게 배분하고 실행 스타일이 아니라 과학적 가치에 따라 자원을 할당하기 위해 시스템 정책을 어떻게 개선할 수 있는가?
• RQ5 블루 워터스와 같은 시스템에서 MTC와 미세한 병렬 처리(MPI/OpenMP 등)를 조합한 하이브리드 모델을 통해 MTC 응용 프로그램은 어느 정도의 이점을 얻을 수 있는가?

주요 결과

• MTC 응용 프로그램은 기존 HPC 및 HTC 워크로드와 다르게, 높은 통신 및 I/O 요구를 지닌 수많은 짧은, 데이터 종속성 있는 작업을 특징으로 한다.
• 블루 워터스는 기술적으로 MTC 응용 프로그램을 대규모 재설계 없이도 지원할 수 있지만, 현재 아키텍처는 MTC 워크로드를 위한 동적 자원 할당 및 최적화된 I/O를 제공하지 못한다.
• 완전한 Linux 의미 체계, 계산 노드의 로컬 파일 시스템, 직접 네트워크 액세스가 가능한 유틸리티 워커 노드를 제공하면, 시스템 영향을 최소화하면서도 MTC 지원을 크게 향상시킬 수 있다.
• 탄력적인 스케줄링 분할 및 통신 패브릭에 대한 직접 액세스는 효율적인 MTC 미들웨어 실행 및 워크플로우 조율에 필수적이다.
• 연구 결과, 블루 워터스에서는 낮은 성능 시스템을 통합한 것보다 MTC 응용 프로그램이 더 빠른 솔루션 도달 시간을 확보할 수 있으며, 특히 전염병 유행 모델링이나 기후 급성 사태와 같은 급박한 상황에서 그러한 이점이 두드러진다.
• MTC 응용 프로그램이 단일 MPI나 공유 메모리 모델을 사용하지 않기 때문에 자원 할당에서 불리한 위치에 놓이지 않도록 정책 개선이 필요하다.