[논문 리뷰] Practical scalability assesment for parallel scientific numerical applications

Natalie Perlin, Joel Zysman외 1명|arXiv (Cornell University)|2016. 11. 04.

Parallel Computing and Optimization Techniques인용 수 5

한 줄 요약

이 논문은 다양한 코어 수에서의 CCSM 시뮬레이션을 통해 병렬 과학 수치 응용 프로그램의 확장성 추정을 위한 힘의 법칙 피팅 모델 C(N) = bN^a를 제안한다. 이 방법은 지표 간 일관된 힘 계수(a)를 도출하여 시리얼 실행이 없더라도 견고한 성능 예측이 가능하게 하며, 중간 정도의 코어 수 이하에서는 로그-선형 행동이 관찰된다.

ABSTRACT

The concept of scalability analysis of numerical parallel applications has been revisited, with the specific goals defined for the performance estimation of research applications. A series of Community Climate Model System (CCSM) numerical simulations were used to test the several MPI implementations, determine optimal use of the system resources, and their scalability. The scaling capacity and model throughput performance metrics for $N$ cores showed a log-linear behavior approximated by a power fit in the form of $C(N)=bN^a$, where $a$ and $b$ are two empirical constants. Different metrics yielded identical power coefficients ($a$), but different dimensionality coefficients ($b$). This model was consistent except for the large numbers of N. The power fit approach appears to be very useful for scalability estimates, especially when no serial testing is possible. Scalability analysis of additional scientific application has been conducted in the similar way to validate the robustness of the power fit approach.

연구 동기 및 목표

• 시리얼 실행이 필요하지 않은 실용적인 방법을 개발하여 병렬 과학 수치 응용 프로그램의 확장성 평가를 수행하는 것.
• 다양한 MPI 환경과 코어 수에서 커뮤니티 기후 모델 시스템(CCMM)의 확장성 평가.
• 대규모 과학 워크로드에서 최적의 시스템 자원 활용도 및 처리량 성능를 규명하는 것.
• CCSM를 초월한 다양한 과학 응용 프로그램에서 힘의 법칙 피팅 모델의 견고성 검증.

제안 방법

• CCSM 시뮬레이션 데이터를 기반으로 모델의 처리량 및 확장성 지표를 힘의 법칙 함수 C(N) = bN^a에 경험적으로 피팅한다.
• 다양한 코어 수(N)에서의 성능를 분석하여 확장성 추세에서 로그-선형 행동을 식별한다.
• 여러 MPI 환경을 비교하여 최적의 구성과 자원 사용을 규명한다.
• 시간, 처리량 등 다양한 성능 지표에 동일한 힘의 법칙 모델을 적용하여 지수 a의 일관성 여부를 테스트한다.
• 추가 과학 응용 프로그램에 모델을 적용하여 일반화 가능성 평가.
• 시리얼 실행이 불가능한 상황에서의 확장성 추정을 위해 모델을 적용하며, 오직 병렬 데이터에서의 외삽에 중점을 둔다.

실험 결과

연구 질문

• RQ1 다양한 코어 수에서 병렬 과학 수치 응용 프로그램의 확장성을 정확히 표현할 수 있는 힘의 법칙 모델이 가능한가?
• RQ2 시간 및 처리량과 같은 다양한 성능 지표 간에 힘의 법칙 계수(a)는 얼마나 일관된가?
• RQ3 큰 코어 수(N)에서 모델은 어느 정도까지 유효하며, 어디서 붕괴되는가?
• RQ4 시리얼 실행이 불가능한 상황에서 모델을 신뢰할 수 있게 확장성 추정에 활용할 수 있는가?
• RQ5 다른 MPI 환경은 관측된 확장성과 최적의 자원 활용도에 어떤 영향을 미치는가?

주요 결과

• 힘의 법칙 모델 C(N) = bN^a는 다양한 성능 지표 간 일관된 피팅을 제공하였으며, 지수 a가 동일하게 유지되었다.
• 차원 계수(b)는 지표에 따라 변동되었지만 지수 a는 안정되어 있어 모델의 확장성 행동이 견고함을 시사한다.
• 중간 정도의 코어 수(N) 범위에서 로그-선형 확장성 행동이 관찰되었으며, 매우 큰 N에서서만 이격 현상이 나타났다.
• 시리얼 벤치마크가 없는 상황에서도 모델이 신뢰할 수 있는 확장성 추정이 가능하여 실제 과학 응용 프로그램에 실용적임을 입증하였다.
• 추가 과학 응용 프로그램에 대한 검증을 통해 모델의 견고성과 일반화 가능성은 CCSM 사례 연구를 초월하여 확인되었다.
• 코어 수에 따른 MPI 환경 성능 분석을 통해 최적의 시스템 자원 활용도가 규명되었다.