[논문 리뷰] High-Performance Distributed Multi-Model / Multi-Kernel Simulations: A Case-Study in Jungle Computing

Niels Drost, Jason Maassen외 7명|arXiv (Cornell University)|2012. 03. 01.

Distributed and Parallel Computing Systems참고 문헌 13인용 수 4

한 줄 요약

이 논문은 이비스 미들웨어 기반의 프로토타입 분산 시뮬레이션 프레임워크를 제시하여 이질적이고 지리적으로 산재한 자원—' Junglе Computing' 시스템—을 활용해 고성능, 다중 모델, 다중 커널 천체물리학 시뮬레이션을 가능하게 한다. 이를 통해 AMUSE, 계산 천체물리학 프레임워크가 세계 곳곳에 산재한 원격 GPU를 효율적으로 활용할 수 있음을 입증하였으며, 시뮬레이션 반복 시간을 CPU 전용일 때 353초에서 네 기관에 걸쳐 모델을 분산할 경우 62.4초로 단축시켰다.

ABSTRACT

High-performance scientific applications require more and more compute power. The concurrent use of multiple distributed compute resources is vital for making scientific progress. The resulting distributed system, a so-called Jungle Computing System, is both highly heterogeneous and hierarchical, potentially consisting of grids, clouds, stand-alone machines, clusters, desktop grids, mobile devices, and supercomputers, possibly with accelerators such as GPUs. One striking example of applications that can benefit greatly of Jungle Computing Systems are Multi-Model / Multi-Kernel simulations. In these simulations, multiple models, possibly implemented using different techniques and programming models, are coupled into a single simulation of a physical system. Examples include the domain of computational astrophysics and climate modeling. In this paper we investigate the use of Jungle Computing Systems for such Multi-Model / Multi-Kernel simulations. We make use of the software developed in the Ibis project, which addresses many of the problems faced when running applications on Jungle Computing Systems. We create a prototype Jungle-aware version of AMUSE, an astrophysical simulation framework. We show preliminary experiments with the resulting system, using clusters, grids, stand-alone machines, and GPUs.

연구 동기 및 목표

• 대규모 과학적 시뮬레이션을 위해 매우 이질적이고 분산되어 있으며 계층적인 컴퓨팅 자원—'Jungle Computing'으로 불리는 자원—을 효율적으로 활용하는 데 도전하는 것.
• 단일 시스템의 능력 이상의 거대한 계산 능력이 필요한 계산 천체물리학에서의 다중 모델, 다중 커널(3MK) 시뮬레이션을 가능하게 하는 것.
• 클러스터, 그리드, 독립형 머신, GPU 등 다양한 환경에서 AMUSE 시뮬레이션을 원활하게 배포하고 실행할 수 있는 프로토타입 시스템을 개발하는 것.
• 여러 대륙과 다양한 하드웨어 자원을 포함하는 실제 실험을 통해 이러한 시스템의 성능과 실현 가능성을 평가하는 것.

제안 방법

• 다양한 플랫폼 간의 저수준 시스템 이질성을 추상화하고, 다양한 플랫폼 간 통신 및 자원 접근을 관리하기 위해 오픈소스 Ibis 소프트웨어 프레임워크를 활용하였다.
• 다양한 컴퓨팅 자원에 걸쳐 상호 연결된 여러 천체물리 모델(예: 별진화, 유체역학)을 지원하기 위해 AMUSE 시뮬레이션 프레임워크에 분산 기능을 확장하였다.
• 가용한 하드웨어(클러스터의 CPU 및 GPU 포함)에 따라 모델을 동적으로 선택하고 할당하는 'Jungle-aware' 커플러를 구현하였다.
• 노드 간 통신을 위해 메시지 전달 인터페이스(MPI)를 사용하였고, 방화벽과 NAT를 넘어선 자원 간 조율을 위해 Ibis의 경량 프로세스 모델을 활용하였다.
• 레이든의 LGM 클러스터와 같은 고성능 GPU 노드에 계산 집약적인 모델(예: Octgrav)을 재할당하여 원격 GPU 활용을 가능하게 하였다.
• 단순한 스크립트 변경만으로도 시뮬레이션 구성 요소의 투명한 재구성 가능성을 확보하여 사용자 수준의 복잡성을 최소화하였다.

실험 결과

연구 질문

• RQ1 이질적이고 지리적으로 산재한 자원을 가진 'Jungle Computing' 환경에서 다중 모델, 다중 커널 시뮬레이션 프레임워크를 효과적으로 배포할 수 있는가?
• RQ2 이러한 시스템은 원격 GPU 자원을 얼마나 효율적으로 활용하여 계산 집약적인 시뮬레이션 구성 요소의 성능을 향상시킬 수 있는가?
• RQ3 다양한 기관과 네트워크 구조를 거쳐 분산 실행을 관리할 경우 성능 오버헤드는 얼마나 되는가?
• RQ4 시스템은 자원 가용성에 따라 동적으로 적응하여, 다양한 모델에 대해 최적의 계산 커널(예: CPU 또는 GPU 버전)을 자동으로 선택할 수 있는가?
• RQ5 여러 대륙과 다양한 하드웨어 플랫폼에 걸쳐 모델을 분산함으로써 성능을 얼마나 확장할 수 있는가?

주요 결과

• 프로토타입은 레이든에 위치한 GPU 장착 노드를 포함해 여러 기관 간에 3MK 시뮬레이션을 성공적으로 실행하여 세계 곳곳의 자원 활용을 입증하였다.
• LGM 클러스터의 원격 Tesla C2050 GPU를 사용함으로써 시뮬레이션 반복 시간을 84초로 단축시켰으며, 이는 현지 GeForce 9600GT GPU(89초)보다 뛰어난 성능을 보였다.
• 네 개의 다른 대학에 걸쳐 시뮬레이션을 분산함으로써 반복 시간을 62.4초로 단축시켜 CPU 전용 실행(353초) 대비 5.7배의 성능 향상을 달성하였다.
• 심지어 네트워크 거리가 30킬로미터였음에도 불구하고, 계산 집약적인 모델을 원격 GPU에 오프로드함으로써 상당한 성능 향상을 달성하였다.
• 분산 시스템의 오버헤드는 매우 낮아, 특정 구성에서는 현지 GPU 사용보다 원격 GPU 사용이 더 효율적인 것으로 나타났다.
• 단 한 줄의 스크립트 변경만으로도 현지 실행과 원격 실행 간 전환에 충분히 유연하고 사용하기 쉽게 구현되었으며, 이는 사용성과 유연성의 우수함을 입증하였다.