[논문 리뷰] An Empirical Study of Cache-Oblivious Priority Queues and their Application to the Shortest Path Problem

Benjamin Sach, Raphaël Clifford|ArXiv.org|2008. 02. 07.

Complexity and Algorithms in Graphs참고 문헌 18인용 수 5

한 줄 요약

이 논문은 주로 메모리에 들어가지 않는 큰 그래프에서 Dijkstra의 최단경로 알고리즘에 캐시 무관 우선순위 큐(Funnel Heap 및 Bucket Heap)를 사용할 경우를 평가한다. 캐시 무관 구조가 외부 저장소로 데이터를 스왑할 경우 표준 이진 힙에 비해 빠른 성능 향상을 보이며, 이는 최대 수개의 주기 수준에서의 향상이다. 그러나 실제 그래프에서는 높은 인접 리스트 접근 비용으로 인해 성능 향상이 감소한다.

ABSTRACT

In recent years the Cache-Oblivious model of external memory computation has provided an attractive theoretical basis for the analysis of algorithms on massive datasets. Much progress has been made in discovering algorithms that are asymptotically optimal or near optimal. However, to date there are still relatively few successful experimental studies. In this paper we compare two different Cache-Oblivious priority queues based on the Funnel and Bucket Heap and apply them to the single source shortest path problem on graphs with positive edge weights. Our results show that when RAM is limited and data is swapping to external storage, the Cache-Oblivious priority queues achieve orders of magnitude speedups over standard internal memory techniques. However, for the single source shortest path problem both on simulated and real world graph data, these speedups are markedly lower due to the time required to access the graph adjacency list itself.

연구 동기 및 목표

• 메모리에 들어가지 않는 외부 메모리 환경에서 캐시 무관 우선순위 큐의 실증적 성능을 평가하는 것.
• Dijkstra의 최단경로 알고리즘 맥락에서 캐시 무관 우선순위 큐 설계인 Funnel Heap와 Bucket Heap를 표준 이진 힙과 비교하는 것.
• 외부 메모리 I/O가 알고리즘 성능에 미치는 영향, 특히 캐시 무관 데이터 구조와 그래프 데이터 접근 패턴 간의 상충 관계를 조사하는 것.
• 실제 그래프의 흐문성과 메모리 크기가 이러한 우선순위 큐의 상대적 성능에 미치는 영향을 평가하는 것.

제안 방법

• 삽입, 삭제-최소, 감소-키 연산에 대해 최적 또는 근접 최적의 I/O 복잡도를 가지는 캐시 무관 우선순위 큐로서 Funnel Heap 및 Bucket Heap를 구현하였다.
• Synthetic Erdős–Rényi 무작위 그래프와 DIMACS 챌린지에서 제공한 실제 도로 네트워크 그래프를 대상으로 Dijkstra의 단일 소스 최단경로 알고리즘에 이러한 데이터 구조를 적용하였다.
• 외부 메모리 동작을 시뮬레이션하고 I/O 연산 및 실행 시간을 측정하기 위해 STXXL 라이브러리를 사용하였다.
• 메모리 계층의 영향을 분리하기 위해 문제 크기(최대 600만 개 정점)와 내부 메모리 크기(최대 1024 MB)를 다양하게 설정하여 실험을 수행하였다.
• 총 실행 시간과 I/O 대기 비율을 측정하여 외부 메모리 접근이 미치는 영향을 정량화하였다.
• Funnel Heap가 원래의 감소-키 연산을 지원하지 않기 때문에 Dijkstra 알고리즘의 수정이 필요했으며, 이로 인해 힙 크기가 O(V)에서 O(E)로 증가하였다.

실험 결과

연구 질문

• RQ1 외부 메모리에서 메모리에 들어가지 않는 큰 그래프를 처리할 경우, Funnel Heap 및 Bucket Heap와 같은 캐시 무관 우선순위 큐는 표준 이진 힙에 비해 어떻게 성능을 내는가?
• RQ2 메모리에 들어가지 않는 큰 그래프를 처리할 때 캐시 무관 데이터 구조가 I/O 오버헤드를 얼마나 줄이는가?
• RQ3 이론적으로 유리한 I/O 복잡도를 가졌음에도 불구하고 실생활에서 성능 향상이 감소하는 이유는 무엇인가? 특히 실제 그래프에서 그러한 현상이 나타나는 이유는?
• RQ4 실제 그래프의 흐문성이 캐시 무관 우선순위 큐의 상대적 성능에 미치는 영향은 어떻게 다른가? 특히 합성 그래프와의 비교에서 나타나는가?
• RQ5 내부 메모리 크기의 변화에 따라 이러한 데이터 구조의 성능는 얼마나 민감하게 반응하는가?

주요 결과

• 작은 문제 크기에서는 더 복잡한 데이터 구조의 높은 상수 계수 오버헤드로 인해 이진 힙이 둘 다를 앞서 성능을 냈다.
• 16 MB의 RAM과 120만 개의 원소를 가진 경우 이진 힙은 4시간 이상(99% I/O 대기)이 걸렸지만, Funnel Heap와 Bucket Heap는 각각 4분 이내, 10분 이내에 완료되었다.
• 약 100만 개 정점의 무작위 그래프에서 이진 힙의 런타임은 약 5.8배 증가했고, Funnel Heap와 Bucket Heap는 훨씬 더 우수한 스케일링 성능를 보였다.
• 실제 흐문 도로 네트워크에서는 Funnel Heap가 이진 힙과 Bucket Heap를 모두 앞서며, O(E) 원소 저장 방식으로 인한 오버헤드 감소 덕분이었다.
• 2 MB의 메모리로만 작동하는 Funnel Heap가 1024 MB의 메모리를 사용하는 Bucket Heap보다 빠르게 작동하여, 강력한 메모리 계층 효율성을 보였다.
• 더 큰 그래프에서 Funnel Heap의 O(E) 힙 크기로 인해 I/O 비용이 증가함에도 불구하고, 더 나은 점근적 I/O 복잡도를 가짐에도 불구하고 Bucket Heap와 Funnel Heap 간의 성능 격차가 좁혀졌다.