[논문 리뷰] An Assessment of Data Transfer Performance for Large-Scale Climate Data Analysis and Recommendations for the Data Infrastructure for CMIP6

Eli Dart, Michael Wehner외 1명|arXiv (Cornell University)|2017. 08. 26.

Climate variability and models참고 문헌 7인용 수 5

한 줄 요약

이 논문은 대규모 기후 데이터의 데이터 전송 성능을 평가하며, 특히 분산 아카이브에서 NERSC로 이동된 56TB의 CMIP5 모델 출력 데이터를 대상으로 한다. ESGF 인프라스트럭처의 핵심적인 성능 저하 요인을 규명하고, 향후 CMIP6 워크플로우에서 최소 10배 향상된 전송 속도를 달성하기 위해 과학 DMZ 최적화 기준, 자원 할당 증대, 표준화된 성능 메트릭스 도입을 권장한다.

ABSTRACT

We document the data transfer workflow, data transfer performance, and other aspects of staging approximately 56 terabytes of climate model output data from the distributed Coupled Model Intercomparison Project (CMIP5) archive to the National Energy Research Supercomputing Center (NERSC) at the Lawrence Berkeley National Laboratory required for tracking and characterizing extratropical storms, a phenomena of importance in the mid-latitudes. We present this analysis to illustrate the current challenges in assembling multi-model data sets at major computing facilities for large-scale studies of CMIP5 data. Because of the larger archive size of the upcoming CMIP6 phase of model intercomparison, we expect such data transfers to become of increasing importance, and perhaps of routine necessity. We find that data transfer rates using the ESGF are often slower than what is typically available to US residences and that there is significant room for improvement in the data transfer capabilities of the ESGF portal and data centers both in terms of workflow mechanics and in data transfer performance. We believe performance improvements of at least an order of magnitude are within technical reach using current best practices, as illustrated by the performance we achieved in transferring the complete raw data set between two high performance computing facilities. To achieve these performance improvements, we recommend: that current best practices (such as the Science DMZ model) be applied to the data servers and networks at ESGF data centers; that sufficient financial and human resources be devoted at the ESGF data centers for systems and network engineering tasks to support high performance data movement; and that performance metrics for data transfer between ESGF data centers and major computing facilities used for climate data analysis be established, regularly tested, and published.

연구 동기 및 목표

• 분산 아카이브에서 국립 슈퍼컴퓨팅 센터로 이동된 56TB의 CMIP5 기후 모델 출력 데이터를 대상으로, 폭풍 추적 분석을 위해 전송 성능과 과제를 평가하는 것.
• 대규모 기후 데이터 분석을 저해하는 ESGF 데이터 전송 워크플로우 및 인프라스트럭처의 체계적 한계를 규명하는 것.
• 더 큰 규모의 CMIP6 데이터 아카이브를 대비해 데이터 전송 성능 향상을 위한 실천 가능한 권고안을 제공하는 것.
• ESGF 데이터 센터와 주요 계산 시설 간 데이터 전송 성능 메트릭스의 표준화 및 정기적 테스트를 촉구하는 것.

제안 방법

• ESGF 아카이브에서 NERSC의 고성능 컴퓨팅 환경으로 56TB의 원시 기후 모델 출력 데이터를 이동하는 동안 실제 데이터 전송 속도를 측정한 것.
• 워크플로우 비효율성과 네트워크 성능 제약 요인을 분석하기 위해 ESGF 포털 및 데이터 센터 인프라스트럭처를 평가한 것.
• 제어된 전송을 통해 두 개의 고성능 컴퓨팅 시설 간에 과학 DMZ 모델을 적용하여 달성 가능한 성능 수준을 시연한 것.
• 성능 저하를 이해하기 위해 일반적인 미국 주거용 대역폭과 전송 속도를 비교한 것.
• 기존 네트워킹 최적화 기준을 바탕으로 한 인프라스트럭처 개선 방안을 제안한 것. 이는 전용 고성능 네트워크 경로 및 최적화된 서버 구성 포함.
• 고성능 데이터 이동을 지원하기 위해 제도적 투자와 시스템, 네트워크 엔지니어링 역량 강화를 주장한 것.

실험 결과

연구 질문

• RQ1 ESGF 아카이브에서 국립 컴퓨팅 센터로 대규모 기후 모델 출력 데이터를 이동할 때 실제로 경험하는 데이터 전송 속도는 무엇인가?
• RQ2 과학적 중요성이 높은 데이터임에도 불구하고 ESGF 데이터 전송 속도가 일반적인 미국 주거용 대역폭 속도 이하로 떨어지는 이유는 무엇인가?
• RQ3 현재의 네트워킹 최적화 기준이 기후 데이터 워크로드의 전송 성능 향상에 어느 정도 기여할 수 있는가?
• RQ4 ESGF 내에서 성능 저하를 유발하는 체계적 인프라스트럭처 및 워크플로우 문제 요소는 무엇인가?
• RQ5 ESGF 데이터 센터와 주요 계산 시설 간 데이터 전송 성능 메트릭스를 어떻게 표준화하고 유지 관리할 수 있는가?

주요 결과

• ESGF 포털 통한 데이터 전송 속도는 일반적인 미국 주거용 대역폭 연결보다 느린 경우가 많아 성능 저하가 심각하게 발생하고 있음을 시사한다.
• ESGF 인프라스트럭처는 워크플로우 메커니즘과 네트워크 성능 측면에서 대규모 데이터 전송 시에 특히 두드러진 성능 저하 요인이 존재한다.
• 두 개의 고성능 컴퓨팅 시설 간 제어된 전송에서 매우 높은 속도를 달성하여 최소 10배 향상된 성능이 기술적으로 가능함을 입증했다.
• 현재 ESGF 인프라스트럭처는 특히 CMIP6 규모의 데이터셋을 대상으로 한 고성능 데이터 이동을 위한 충분한 엔지니어링 자원과 최적화가 부족하다.
• ESGF 데이터 센터와 주요 계산 시설 간 데이터 전송 성능 메트릭스가 현재 존재하지 않아 성능 모니터링 및 최적화가 어렵다.