[논문 리뷰] Finite Projective Geometry based Fast, Conflict-free Parallel Matrix Computations

Shreeniwas Sapre, Hrishikesh Sharma외 3명|arXiv (Cornell University)|2011. 07. 05.

Interconnection Networks and Systems참고 문헌 12인용 수 3

한 줄 요약

이 논문은 공액상승(Conjugate Gradient, CG) 및 LU/초레스키 분해를 포함한 병렬 행렬 계산을 가속화하기 위해 유한 프로젝티브 기하학 기반의 데이터 분포 및 상호연결 체계를 제안한다. 프로젝티브 기하학의 대칭적 인cidence 관계를 활용하여 충돌 없는, 통신 최적화된 병렬 실행을 가능하게 하며, 증명 가능하게 최적의 로드 밸런싱과 통신 오버헤드 감소를 달성하여 기존 메쉬 기반 체계에 비해 뚜렷한 성능 향상을 이룬다.

ABSTRACT

Matrix computations, especially iterative PDE solving (and the sparse matrix vector multiplication subproblem within) using conjugate gradient algorithm, and LU/Cholesky decomposition for solving system of linear equations, form the kernel of many applications, such as circuit simulators, computational fluid dynamics or structural analysis etc. The problem of designing approaches for parallelizing these computations, to get good speedups as much as possible as per Amdahl's law, has been continuously researched upon. In this paper, we discuss approaches based on the use of finite projective geometry graphs for these two problems. For the problem of conjugate gradient algorithm, the approach looks at an alternative data distribution based on projective-geometry concepts. It is proved that this data distribution is an optimal data distribution for scheduling the main problem of dense matrix-vector multiplication. For the problem of parallel LU/Cholesky decomposition of general matrices, the approach is motivated by the recently published scheme for interconnects of distributed systems, perfect difference networks. We find that projective-geometry based graphs indeed offer an exciting way of parallelizing these computations, and in fact many others. Moreover, their applications ranges from architectural ones (interconnect choice) to algorithmic ones (data distributions).

연구 동기 및 목표

• 스parser 행렬-벡터 곱셈(SpMV) 및 LU/초레스키 분해를 포함한 병렬 행렬 계산의 성능 저하 요인을 해결하기 위해, 통신 최적화 및 충돌 없는 상호연결 및 데이터 분포 체계를 설계한다.
• 통신 오버헤드를 최소화하고 프로세서 간 계산 부하를 균형 있게 유지함으로써 암다울 법에 의해 제한되는 성능 향상을 향상시킨다.
• 공액상승 알고리즘에서 밀도 있는 행렬-벡터 곱셈에 대해 증명 가능하게 통신 최적인 '프로젝티브 데이터 분포'라는 새로운 데이터 분포 기법을 개발한다.
• 4차원 프로젝티브 공간 그래프를 활용하여 LU/초레스키 분해를 위한 효율적인 스케줄링 및 상호연결 체계를 설계하여 기존 메쉬 기반 토폴로지보다 향상된 성능을 달성한다.
• 성능 지표인 사이클 수, 계산 시간, 프로세서 활용도 등을 비교하여 시뮬레이션을 통해 프로젝티브 기하학 기반 아키텍처의 효과성을 검증한다.

제안 방법

• 프로젝티브 기하학의 부분공간 간의 인cidence 및 포함 관계를 기반으로, 프로세서 및 메모리의 상호연결을 위한 기초 토폴로지로 유한 프로젝티브 기하학 그래프(특히 4차원 프로젝티브 공간)를 사용한다.
• 프로젝티브 기하학의 자동형사를 활용하여 완벽한 액세스 패턴과 순서를 생성함으로써, 모든 프로세서와 메모리가 동시에 충돌 없이 통신할 수 있도록 보장한다.
• SpMV 커널에서 통신 볼륨을 최소화하고 계산 부하를 균형 있게 분배하기 위해 기하학적 인cidence에서 유도된 새로운 '프로젝티브 데이터 분포'를 도입한다.
• 간접적 인cidence와 계층적 부분공간을 활용하여 LU/초레스키 분해를 위한 두 가지 스케줄링 체계(PG-1 및 PG-2)를 개발하여 효율적인 데이터 이동 및 계산 스케줄링을 가능하게 한다.
• 다양한 블록 크기(예: 8×8, 12×12, 24×24)에서 시뮬레이션을 수행하고, 총 사이클 수, 계산/통신 사이클 수, 정규화된 실행 시간 등의 지표를 사용하여 메쉬 기반 상호연결과 성능을 비교한다.
• 소프트웨어 프로토타입을 활용하여 기존의 행 기반 분포와 비교하여 제안된 프로젝티브 분포의 성능 차이를 평가하며, 통신 효율성과 로드 밸런싱에 중점을 둔다.

실험 결과

연구 질문

• RQ1 유한 프로젝티브 기하학 기반 데이터 분포가 공액상승 알고리즘에서 밀도 있는 행렬-벡터 곱셈에 대해 증명 가능하게 최적의 통신 복잡도를 달성할 수 있는가?
• RQ2 LU/초레스키 분해에 있어서 프로젝티브 기하학 기반 상호연결 토폴로지는 기존 메쉬 기반 토폴로지와 비교해 프로세서 활용도 및 총 실행 시간 측면에서 어떻게 다른가?
• RQ3 SpMV 커널에서 전통적인 행 기반 또는 블록 기반 분포와 비교해 프로젝티브 데이터 분포가 통신 오버헤드를 얼마나 줄이는가?
• RQ4 프로젝티브 기하학의 대칭성 및 자동형사 성질을 활용하여 병렬 행렬 계산에서 충돌 없는 고대역폭 통신 패턴을 설계할 수 있는가?
• RQ5 블록 크기가 감소함에 따라 프로젝티브 기하학 기반 체계와 메쉬 기반 체계 간의 사이클 수 및 정규화된 계산 시간 등의 성능 지표는 어떻게 변화하는가?

주요 결과

• 프로젝티브 데이터 분포는 밀도 있는 행렬-벡터 곱셈에 대해 증명 가능하게 통신 최적이다. 기존의 행 기반 분포에 비해 통신 볼륨을 크게 감소시킨다.
• 공액상승 알고리즘에서 프로젝티브 분포는 20~30개 이상의 프로세서를 초과할수록 행 기반 분포를 능가하며, 프로세서 수가 증가할수록 성능 향상이 더욱 두드러진다.
• LU/초레스키 분해를 위한 PG-2 체계는 메쉬 체계에 비해 평균적으로 훨씬 적은 통신 사이클을 기록한다(예: 12×12 블록 기준 31.14 사이클 대비 61.35 사이클)면서도 유사한 계산 사이클 수를 유지한다.
• 모든 블록 크기에서 메쉬 기반 체계에 비해 프로젝티브 기하학 기반 체계에서 프로세서 활용도가 뚜렷이 높으며, PG-2는 낮은 통신과 높은 병렬성의 최적의 균형을 보인다.
• 블록 크기가 감소함에 따라 더 세밀한 로드 분배로 인해 성능이 거의 선형적으로 향상되며, 총 시간과 사이클 효율성 측면에서 프로젝티브 체계는 항상 메쉬 기반 체계를 앞선다.
• 각 프로세서가 약 n²/155개의 행렬 요소만 저장하기 때문에 중간 크기의 행렬에 대해 실용적이다. 이는 주 메모리 또는 L1 캐시에 구현 가능한 수준이며, 표준 프로세서와 저전력 맞춤형 보드를 사용한 구현이 가능하다.