[논문 리뷰] Heuristics for Symmetric Rectilinear Matrix Partitioning

Abdurrahman Yaşar, Ümit V. Çatalyürek|arXiv (Cornell University)|2019. 09. 26.

Graph Theory and Algorithms참고 문헌 13인용 수 5

한 줄 요약

이 논문은 비희소 정사각형 행렬의 대칭 직사각형 분할을 위한 다섯 가지 휴리스틱을 제안하며, 비용이 많이 드는 정점 재정렬이나 초그래프 모델을 요구하지 않는 경량 공간 기반 기법을 사용한다. 제안된 알고리즘은 Nicol의 최신 기법과 비교해 더 나은 또는 유사한 로드 불균형을 달성하며, PTC와 PBD는 다양한 그래프 워크로드에서 가장 우수한 성능을 보였다.

ABSTRACT

Partitioning sparse matrices and graphs is a common and important problem in many scientific and graph analytics applications. In this work, we are concerned with a spatial partitioning called rectilinear partitioning (also known as generalized block distribution) of sparse matrices, which is needed for tiled (or {\em blocked}) execution of sparse matrix and graph analytics kernels. More specifically, in this work, we address the problem of symmetric rectilinear partitioning of square matrices. By symmetric, we mean having the same partition on rows and columns of the matrix, yielding a special tiling where the diagonal tiles (blocks) will be squares. We propose five heuristics to solve two different variants of this problem, and present a thorough experimental evaluation showing the effectiveness of the proposed algorithms.

연구 동기 및 목표

• p×p 타일로 분할할 때 행과 열의 분할이 동일하고 대각선 타일이 정사각형이 되도록 보장하는 희소 대칭 행렬의 분할 문제에 대응한다.
• 비용이 많이 드는 정점 재정렬이나 초그래프 모델링을 피하는 경량이고 효율적인 대칭 직사각형 분할 휴리스틱을 개발한다.
• 도시의 정도 기반, RCM, NAT와 같은 다양한 정점 순서가 타일 분포와 로드 불균형에 미치는 영향을 평가한다.
• 특히 동시성과 이종 아키텍처에서의 타일링된 희소 행렬 및 그래프 분석 커널의 로드 밸런싱을 향상시킨다.
• 대칭 분할에서 행/열 정렬이 제약을 받는 경우, 더 유연한 비대칭 접근 방식보다 실질적으로 더 우수한 성능을 낼 수 있음을 입증한다.

제안 방법

• 로드 불균형 최소화(mLI)와 컷 수 최소화(mNC)라는 두 가지 문제 변형을 제안하며, 대칭 직사각형 제약 조건 하에 적용한다.
• 최적의 분할을 행/열 합에 적용함으로써 2차원 분할을 1차원 분할로 환원하는 개선 기반 휴리스틱을 설계한다.
• 로컬 서치를 사용해 반복적으로 최적의 컷을 탐색하는 프로브 기반 휴리스틱을 개발하며, 이는 행렬 구조와 정점 순서에 의해 안내된다.
• PTC에서 로드 불균형 계산을 가속화하기 위해 펜윅 트리에서 영감을 얻은 희소 접두 합 데이터 구조를 사용하여 검색 시간을 O(n)에서 O(log n)으로 감소시킨다.
• 분할 품질에 미치는 영향을 평가하기 위해 NAT(자연스러운), DEG(도시 기반), RCM(역 Cuthill-McKee) 세 가지 정점 순서를 통합한다.
• 다양한 실제 그래프(다양한 희소성과 크기)에서 6개의 알고리즘(NIC, PBI, PBD, PTC, BTL, PTL)을 구현하고 비교한다.

실험 결과

연구 질문

• RQ1 동일한 행과 열 컷을 갖는 대칭 직사각형 분할이 더 민첩한 비대칭 분할보다 로드 불균형 측면에서 뛰어나게 성능을 낼 수 있는가?
• RQ2 NAT, 도시 기반, RCM와 같은 다양한 정점 순서는 대칭 직사각형 분할의 품질에 어떤 영향을 미치는가?
• RQ3 프로브 기반 휴리스틱과 개선 기반 휴리스틱 간의 실행 시간과 로드 불균형 간의 트레이드오프는 어떠한가?
• RQ4 복잡한 초그래프 분할 모델에 의존하지 않고도 경량 공간 휴리스틱이 경쟁 가능한 성능을 낼 수 있는가?
• RQ5 희소 접두 합 데이터 구조는 PTC에서 로드 불균형 계산 성능을 어떻게 향상시키며, 런타임에 어떤 영향을 미치는가?

주요 결과

• 제안된 PTC 휴리스틱은 대부분의 테스트 인스턴스에서 가장 낮은 로드 불균형을 달성하며, 모든 경우에서 Nicol의 알고리즘을 초월한다.
• PBD는 로드 불균형 측면에서 두 번째로 우수한 알고리즘이며, PBI는 NIC 기준선과 거의 동일한 성능을 보인다.
• 프로브 기반 알고리즘(BTL, PTL)은 개선 기반 알고리즘(PBI, PBD)과 유사한 성능을 보이며, BTL과 PTL은 PBI와 PBD보다 낮은 컷 수를 기록한다.
• NAT 정점 순서는 비희소 요소의 분포가 더 균일하기 때문에 RCM이나 도시 기반 순서보다 더 적은 컷 수를 유도한다.
• 희소 접두 합 데이터 구조는 PTC의 실행 시간을 기존 2~3개의 주기 만큼 느린 상태에서 NIC보다 4~43배 느린 수준으로 감소시켜 대규모 그래프에서 실용 가능하게 만들었다.
• 가장 큰 그래프들(friendster, twitter)에서는 mLI 문제에서 PBD가 가장 빠른 알고리즘이었으며, PTC는 가장 느리지만 가장 정확한 알고리즘이었다.