[논문 리뷰] Optimal Low-Latency Network Topologies for Cluster Performance Enhancement

Yuefan Deng, Meng Guo외 4명|arXiv (Cornell University)|2019. 04. 01.

Interconnection Networks and Systems참고 문헌 49인용 수 4

한 줄 요약

이 논문은 정규 네트워크 구조에서 평균 경로 길이를 최소화하면 클러스터 성능이 크게 향상됨을 제안한다. 드래곤파이어, 토러스, 채발라티와 같은 구조를 가진 256노드 클러스터를 시뮬레이션한 결과, 최적의 저지연 설계가 통신 집약적 워크로드에서 성능을 수 배 수준으로 향상시키며, 동일한 하드웨어 조건에서도 네트워크 구조만으로도 성능을 회복할 수 있음을 입증한다.

ABSTRACT

We propose that clusters interconnected with network topologies having minimal mean path length will increase their overall performance for a variety of applications. We approach our heuristic by constructing clusters of up to 36 nodes having Dragonfly, torus, ring, Chvatal, Wagner, Bidiakis and several other topologies with minimal mean path lengths and by simulating the performance of 256-node clusters with the same network topologies. The optimal (or sub-optimal) low-latency network topologies are found by minimizing the mean path length of regular graphs. The selected topologies are benchmarked using ping-pong messaging, the MPI collective communications, and the standard parallel applications including effective bandwidth, FFTE, Graph 500 and NAS parallel benchmarks. We established strong correlations between the clusters' performances and the network topologies, especially the mean path lengths, for a wide range of applications. In communication-intensive benchmarks, clusters with optimal network topologies out-perform those with mainstream topologies by several folds. It is striking that a mere adjustment of the network topology suffices to reclaim performance from the same computing hardware.

연구 동기 및 목표

• 정규 그래프에서 평균 경로 길이를 최소화하는 네트워크 구조를 특정하여 클러스터 성능을 향상시키는 것.
• 클러스터에서 통신 집약적 HPC 워크로드에 대한 네트워크 구조의 영향을 평가하는 것.
• 하드웨어를 변경하지 않고도 네트워크 구조 최적화가 성능을 크게 향상시킬 수 있음을 입증하는 것.
• 표준 HPC 응용 프로그램을 사용하여 드래곤파이어, 토러스, 링, 채발라티, 워거너, 바이디아키스 등의 다양한 구조를 벤치마크하는 것.
• 다양한 워크로드에서 평균 경로 길이와 전체 클러스터 성능 간의 강력한 상관관계를 확립하는 것.

제안 방법

• 평균 경로 길이를 분석하기 위해 최대 36노드의 다양한 정규 구조를 가진 클러스터를 구축하는 것.
• 스케일러비리티와 성능를 평가하기 위해 동일한 구조를 사용해 256노드 클러스터를 시뮬레이션하는 것.
• 최적 또는 부분 최적의 구조를 선정하는 주요 히우리스틱으로 평균 경로 길이를 최소화하는 것.
• 핑퐁 메시징, MPI 집합 연산, 표준 HPC 워크로드(예: NAS Parallel Benchmarks, Graph 500, FFTE)를 사용해 구조를 벤치마크하는 것.
• 다양한 응용 프로그램에서 네트워크 구조, 특히 평균 경로 길이와의 성능 상관관계를 분석하는 것.
• 동일한 하드웨어 조건에서 다양한 구조 간 성능을 비교하기 위해 시뮬레이션 기반 평가를 수행하는 것.

실험 결과

연구 질문

• RQ1 정규 그래프에서 클러스터 인터커넥트를 위한 네트워크 구조 중 평균 경로 길이를 최소화하는 것은 무엇인가?
• RQ2 통신 집약적 HPC 응용 프로그램에서 평균 경로 길이와 성능 간의 상관관계는 어떻게 되는가?
• RQ3 하드웨어 변경 없이 네트워크 구조 최적화가 클러스터 성능을 얼마나 향상시킬 수 있는가?
• RQ4 드래곤파이어, 토러스 및 기타 구조가 실제 HPC 워크로드에서 지연과 성능 측면에서 어떻게 비교되는가?
• RQ5 부적절한 구조를 식별하고 최적의 것으로 대체함으로써 뚜렷한 성능 향상을 달성할 수 있는가?

주요 결과

• 통신 집약적 벤치마크에서 최적의 저지연 네트워크 구조를 가진 클러스터가 주류 구조를 가진 클러스터보다 수 배 수준으로 성능이 뛰어나다.
• 다양한 응용 프로그램 전반에서 평균 경로 길이와 전체 클러스터 성능 간에 강력한 상관관계가 확인되었다.
• 동일한 계산 하드웨어가 최적의 네트워크 구조와 조합될 경우 상당히 높은 성능을 달성할 수 있었다.
• 드래곤파이어 및 토러스와 같은 구조는 평균 경로 길이를 최소화하도록 최적화되었을 때 뛰어난 성능을 보였다.
• 핑퐁 및 MPI 집합 통신 벤치마크 결과, 평균 경로 길이가 감소할수록 지연과 대역폭이 직접적으로 향상됨을 확인하였다.
• 본 연구는 네트워크 구조가 HPC 클러스터에서 성능 향상에 있어 중요한 잠재력이 있지만 아직 충분히 활용되지 않은 요소임을 입증한다.