[논문 리뷰] Portable, high-performance containers for HPC

Lucas Benedicic, Felipe A. Cruz외 2명|arXiv (Cornell University)|2017. 04. 11.

Cloud Computing and Resource Management참고 문헌 15인용 수 11

한 줄 요약

이 논문은 초고성능 컴퓨팅(HPC)을 위한 컨테이너 런타임인 Shifter에 확장을 제안하여, GPU 가속기와 고속 네트워킹에 직접 액세스할 수 있도록 함으로써 슈퍼컴퓨터에서 컨테이너화된 애플리케이션의 이식성 있고 고성능 실행을 가능하게 한다. 이 솔루션은 다양한 HPC 시스템에서 거의 네이티브 성능을 달성하면서도 Docker 호환 컨테이너와 최적화된 시스템 수준 통합을 통해 소프트웨어 이식성을 유지하며, I/O 집약적인 파이썬 워크로드의 시작 시간을 크게 단축시킨다.

ABSTRACT

Building and deploying software on high-end computing systems is a challenging task. High performance applications have to reliably run across multiple platforms and environments, and make use of site-specific resources while resolving complicated software-stack dependencies. Containers are a type of lightweight virtualization technology that attempt to solve this problem by packaging applications and their environments into standard units of software that are: portable, easy to build and deploy, have a small footprint, and low runtime overhead. In this work we present an extension to the container runtime of Shifter that provides containerized applications with a mechanism to access GPU accelerators and specialized networking from the host system, effectively enabling performance portability of containers across HPC resources. The presented extension makes possible to rapidly deploy high-performance software on supercomputers from containerized applications that have been developed, built, and tested in non-HPC commodity hardware, e.g. the laptop or workstation of a researcher.

연구 동기 및 목표

• 다양한 하드웨어와 소프트웨어 스택을 가진 다양한 HPC 시스템 간에 고성능 과학적 애플리케이션을 배포하는 데 도전하는 문제를 해결하기 위해.
• 특히 GPU 가속 및 네트워크 집약적인 애플리케이션을 위한 컨테이너화된 HPC 워크로드의 성능 이식성 확보를 위해.
• HPC 클러스터에서 실행되는 파이썬 기반 과학적 애플리케이션의 동적 링킹 및 파일 시스템 액세스 오버헤드를 줄이기 위해.
• 연구자가 일반 하드웨어에서 애플리케이션을 개발하고 테스트한 후 슈퍼컴퓨터에 직접 배포할 수 있도록 소프트웨어 배포 워크플로우를 단순화하기 위해.
• Docker와 시스템 수준 최적화를 활용하여 컨테이너화를 통해 고성능를 유지하면서도 이식성을 확보하기 위해.

제안 방법

• 컨테이너화된 애플리케이션에 호스트 수준의 GPU 및 고속 네트워크 인터커넥트를 노출시키기 위해 Shifter 컨테이너 런타임을 확장하기 위해.
• 개발 환경과 HPC 생산 환경 간 일관되고 이식 가능한 소프트웨어 환경을 확보하기 위해 Docker를 사용해 컨테이너 이미지를 빌드하기 위해.
• 동적 라이브러리 로딩 중에 반복적인 메타데이터 서버 요청을 최소화하기 위해 컨테이너 이미지를 계산 노드에 로컬로 마운트하기 위해.
• 컨테이너 내부에서 하드웨어 자원에 저오버헤드, 고성능 액세스를 가능하게 하기 위해 리눅스 커널의 시스템 콜 인터페이스를 활용하기 위해.
• I/O 집약적인 워크로드(예: 파이썬의 동적 링킹)에 최적화하기 위해 HPC 클러스터의 병렬 파일 시스템(Lustre 등)과 통합하기 위해.
• CUDA의 n-body 시뮬레이션과 동적 링킹 오버헤드를 측정하기 위한 표준 HPC 워크로드를 사용해 성능 벤치마킹하기 위해.

실험 결과

연구 질문

• RQ1 GPU 및 고속 네트워크에 액세스할 때 컨테이너화된 HPC 애플리케이션이 거의 네이티브 성능을 달성할 수 있는가?
• RQ2 병렬 파일 시스템에서 파이썬 기반 과학적 애플리케이션의 시작 시간과 I/O 성능에 컨테이너화가 미치는 영향은 어떠한가?
• RQ3 이종 HPC 시스템 간에 컨테이너화된 애플리케이션이 성능 이식성을 얼마나 잘 유지할 수 있는가?
• RQ4 최적화된 파일 시스템 액세스를 통해 컨테이너화된 배포 방식으로 파이썬의 동적 링킹 오버헤드를 줄일 수 있는가?
• RQ5 일반 하드웨어에서 개발된 컨테이너화된 애플리케이션을 성능 저하 없이 슈퍼컴퓨터에 직접 배포하는 것이 가능한가?

주요 결과

• GPU 지원 기능이 탑재된 Shifter 확장은 CUDA의 n-body 시뮬레이션에서 네이티브 성능 18.34 GFLOPS와 컨테이너라이즈드 성능 18.34 GFLOPS를 기록하여 거의 네이티브 성능을 입증했다.
• Pynamic 벤치마크에서 컨테이너라이즈드 배포 방식은 반복적인 메타데이터 서버 요청을 최소화하여 3,000개 이상의 프로세스를 가진 작업에서 성능이 30% 향상되었다.
• Lustre 파일 시스템에서 컨테이너라이즈드 파이썬 애플리케이션이 단일 MDS 요청당 컨테이너 이미지 하나로 인해 네이티브 실행 대비 수천 번의 요청에 비해 훨씬 낮은 오버헤드를 보였다.
• 이 방법은 전용 라이브러리와 하드웨어에 대한 투명한 액세스를 가능하게 하여 컨테이너가 성능 손실 없이 ABI 호환 버전의 시스템 라이브러리를 로드할 수 있도록 했다.
• 이 워크플로우는 Piz Daint 및 기타 GPU 가속 기반 클러스터에서 일관된 결과를 보이며 전체 성능 이식성을 달성했다.
• 이 솔루션은 사용자 학습 곡선과 배포 복잡성을 줄였으며 고성능 유지와 함께 사용성과 생산성을 향상시켰다.