[논문 리뷰] Merge Path - A Visually Intuitive Approach to Parallel Merging

Oded Green, Saher Odeh외 1명|arXiv (Cornell University)|2014. 06. 10.

Parallel Computing and Optimization Techniques참고 문헌 13인용 수 10

한 줄 요약

이 논문은 병렬으로 정렬된 두 배열을 병합하는 데 있어 시각적으로 직관적인 방법인 Merge Path 알고리즘을 소개한다. 이는 병합 과정을 격자 위의 경로로 모델링하여 로드 밸런싱, 동기화 없음, 캐시 효율성이 뛰어난 병렬 병합을 가능하게 한다. 이 방법은 공유 메모리 시스템에서 거의 선형적 성능 향상을 달성하며, 특히 Plurality의 HyperCore와 같은 아키텍처에서 캐시 인식(sorting)에 매우 효과적이다.

ABSTRACT

Merging two sorted arrays is a prominent building block for sorting and other functions. Its efficient parallelization requires balancing the load among compute cores, minimizing the extra work brought about by parallelization, and minimizing inter-thread synchronization requirements. Efficient use of memory is also important. We present a novel, visually intuitive approach to partitioning two input sorted arrays into pairs of contiguous sequences of elements, one from each array, such that 1) each pair comprises any desired total number of elements, and 2) the elements of each pair form a contiguous sequence in the output merged sorted array. While the resulting partition and the computational complexity are similar to those of certain previous algorithms, our approach is different, extremely intuitive, and offers interesting insights. Based on this, we present a synchronization-free, cache-efficient merging (and sorting) algorithm. While we use a shared memory architecture as the basis, our algorithm is easily adaptable to additional architectures. In fact, our approach is even relevant to cache-efficient sequential sorting. The algorithms are presented, along with important cache-related insights.

연구 동기 및 목표

• 공유 메모리 아키텍처에서 두 정렬된 배열을 효율적이고 정확하게 병렬화하는 데 도전하는 데 목적이 있다.
• 병렬 병합 연산에서 로드 불균형, 스레드 간 동기화, 메모리 오버헤드를 최소화하는 데 목적이 있다.
• 고성능 정렬에서 메모리 액세스 병목 현상을 줄이는 캐시 효율성이 높은 병합 알고리즘을 개발하는 데 목적이 있다.
• 기하학적 경로 탐색 기반의 직관적인 입력 배열 분할을 통해 효율적인 병렬 정렬을 가능하게 하는 데 목적이 있다.
• 현대 병렬 아키텍처, 특히 대규모 코어 수와 공유 캐시를 갖춘 아키텍처에서의 적용 가능성과 성능 향상을 입증하는 데 목적이 있다.

제안 방법

• 병합 과정을 격자에서 왼쪽 상단에서 오른쪽 하단으로 향하는 경로로 모델링하여, 각 단계에서 두 입력 배열 중 하나에서 요소를 선택하는 방식을 사용한다.
• Merge Path를 이용해 두 입력 배열을 연속적인 세그먼트로 분할하여, 해당 세그먼트 쌍을 병합하면 올바른 정렬된 출력이 도출되도록 한다.
• 코어 간 로드 밸런싱을 보장하기 위해 교차 대각선에서 이진 탐색을 사용해 Merge Path 상의 분할 점 계산을 병렬화한다.
• 잠금 없고 동기화가 없는 알고리즘을 설계하여, 개인 캐시 및 공유 캐시 아키텍처 모두에서 높은 캐시 효율성을 유지한다.
• 직접 매핑된 캐시에서의 성능 향상을 위해 캐시 충돌을 줄이는 데 기여하는 세그먼트 버전으로 기본 알고리즘을 확장한다.
• 작업 기반 프로그래밍 모델을 통해 PRAM 및 현대의 다중코어 시스템, 예를 들어 Plurality의 HyperCore와 같은 다양한 아키텍처에 알고리즘을 적응시킨다.

실험 결과

연구 질문

• RQ1 두 정렬된 배열을 어떻게 세그먼트로 분할할 수 있을까? 이때 해당 세그먼트 쌍을 병합하면 단일 정렬된 배열이 되며, 병렬 코어 간 로드 밸런싱이 보장되어야 한다.
• RQ2 병렬 병합 알고리즘의 설계와 이해를 단순화할 수 있는 기하학적 또는 시각적 표현은 무엇일까?
• RQ3 병렬 병합에서 캐시 미스와 일관성 오버헤드를 줄이기 위해 메모리 액세스 패턴을 어떻게 최적화할 수 있을까?
• RQ4 동기화가 없는, 로드 밸런싱이 잘 된 병합 알고리즘이 현대의 다중코어 시스템에서 거의 선형적 성능 향상을 얼마나 달성할 수 있을까?
• RQ5 세그먼트 버전 알고리즘이 제한된 또는 직접 매핑된 캐시를 갖춘 시스템에서 성능을 어떻게 향상시키는가?

주요 결과

• Merge Path 접근법은 병합 과정을 격자 위의 경로 탐색으로 모델링함으로써 정확하고, 로드 밸런싱이 되며, 동기화가 없는 병렬 병합을 가능하게 한다.
• 다양한 입력 크기에서 16개의 코어까지 거의 선형적 성능 향상을 달성하며, 32개 코어에서 공유 메모리 경쟁으로 인해 성능 저하가 관찰된다.
• 세그먼트 버전 알고리즘은 직접 매핑된 캐시에서 성능 향상을 보이며, 캐시 충돌을 줄이고 처리량을 향상시킨다.
• Plurality HyperCore FPGA 프로토타입에서는 스레드 디스패치 지연이 낮아 작은 입력 배열에서도 효율적으로 실행되어 오버헤드를 최소화한다.
• 캐시 효율성이 높은 변형 알고리즘은 메모리 서브시스템의 병목 현상을 크게 줄여, 메모리 제약이 있는 워크로드에서 고성능 정렬에 적합하다.
• Merge Path의 기하학적 통찰은 병렬 병합 알고리즘의 이해와 구현을 명확하고 직관적으로 만들어 주며, 교육 및 구현에 모두 유리하다.