[논문 리뷰] Efficient Tree Layout in a Multilevel Memory Hierarchy

Stephen Alstrup, Michael A. Bender외 4명|ArXiv.org|2002. 11. 12.

Algorithms and Data Compression참고 문헌 15인용 수 14

한 줄 요약

이 논문은 블록 크기를 사전에 알지 못하더라도 다수준 메모리 계층에서 거의 최적의 성능을 달성하는 빠르고 캐시 무관 트리 레이아웃 알고리즘을 제시한다. 블록 크기가 알려진 레이아웃을 캐시 무관 레이아웃으로 변환하기 위해 최대 상수 요인 성능 손실을 수반하는 Split-and-Refine 기법을 도입하며, 블록 크기가 알려진 레이아웃 알고리즘을 $O(\lg N)$번 호출하여 $O(N\lg N)$ 실행 시간을 달성한다.

ABSTRACT

We consider the problem of laying out a tree with fixed parent/child structure in hierarchical memory. The goal is to minimize the expected number of block transfers performed during a search along a root-to-leaf path, subject to a given probability distribution on the leaves. This problem was previously considered by Gil and Itai, who developed optimal but slow algorithms when the block-transfer size B is known. We present faster but approximate algorithms for the same problem; the fastest such algorithm runs in linear time and produces a solution that is within an additive constant of optimal. In addition, we show how to extend any approximately optimal algorithm to the cache-oblivious setting in which the block-transfer size is unknown to the algorithm. The query performance of the cache-oblivious layout is within a constant factor of the query performance of the optimal known-block-size layout. Computing the cache-oblivious layout requires only logarithmically many calls to the layout algorithm for known block size; in particular, the cache-oblivious layout can be computed in O(N lg N) time, where N is the number of nodes. Finally, we analyze two greedy strategies, and show that they have a performance ratio between Omega(lg B / lg lg B) and O(lg B) when compared to the optimal layout.

연구 동기 및 목표

• 블록 크기가 알려져 있지 않으며 액세스 패턴이 비균일한 계층적 메모리 시스템에서 트리 레이아웃 최적화 문제를 해결한다.
• 루트에서 리프로의 검색 중 블록 전송 횟수를 최소화하는 고정 토폴로지 트리에 대한 효율적인 알고리즘을 개발한다.
• 기존의 블록 크기가 알려진 레이아웃 알고리즘을 캐시 무관 환경으로 확장하여, 블록 크기와 관계없이 최적 성능의 상수 요인 이내로 유지함을 보장한다.
• 블록 크기가 알려진 환경에서의 근사 전략의 성능을 분석하여 근사 비율에 대한 경계를 설정한다.

제안 방법

• 블록 크기 $B$ 가 알려진 경우 동적 프로그래밍 기반 접근을 제안하며, $O(N)$ 실행 시간에 임의의 $\delta > 0$ 에 대해 최적값보다 덧셈적으로 $1+\delta$ 이내의 레이아웃을 생성한다.
• 블록 분할을 다수준의 세부성에서 재귀적으로 정밀화하여, 블록 경계를 가로지르는 엣지(스트래블링 엣지) 수를 최소화하는 Split-and-Refine 기법을 도입한다.
• 기대값의 선형성(선형성의 기대값)을 이용해 정밀화된 레이아웃에서의 블록 전송 횟수 기대값을 경계하며, 이가 블록 크기가 알려진 최적 레이아웃의 상수 요인 이내임을 보여준다.
• Split-and-Refine 프레임워크를 기대 비용 대신 최대 블록 비용을 최소화하도록 적응시키며, 유사한 재귀적 정밀화 전략을 사용한다.
• 스트래블링 엣지의 기여도를 수준 간에 경계함으로써 정밀화된 레이아웃의 기대 비용이 최적 비용의 최대 16배 이내임을 증명한다.
• 부드러움 보조정리(Smoothness Lemma)를 활용하여 정밀화된 레이아웃에서 최대 블록 비용이 최적값의 상수 요인 이내로 유지됨을 보장한다.

실험 결과

연구 질문

• RQ1 모든 알려진 블록 크기에 대해 최적 레이아웃의 상수 요인 이내로 성능을 달성하는 캐시 무관 트리 레이아웃 알고리즘을 설계할 수 있는가?
• RQ2 블록 크기가 알려진 경우 자연스러운 근사 전략의 트리 레이아웃에 대한 근사 비율은 얼마인가?
• RQ3 블록 크기를 사전에 알지 못할 때, 알려진 블록 크기 레이아웃을 캐시 무관 레이아웃으로 효율적으로 변환할 수 있는가?
• RQ4 동적 프로그래밍 기반 트리 레이아웃 알고리즘에서 런타임 효율성과 레이아웃 품질 사이의 상관관계는 무엇인가?
• RQ5 Split-and-Refine 기법을 기대 비용이 아닌 최대 블록 비용을 최소화하도록 적응시킬 수 있는가?

주요 결과

• 가장 빠른 알려진 블록 크기 레이아웃 알고리즘은 $O(N)$ 실행 시간에 임의의 $\delta > 0$ 에 대해 최적값보다 덧셈적으로 $1+\delta$ 이내의 레이아웃을 생성한다.
• Split-and-Refine 기법은 어떤 알려진 블록 크기 레이아웃이라도 캐시 무관 레이아웃으로 변환하며, 기대 블록 전송 횟수에 대해 최대 상수 요인의 성능 손실만 수반한다.
• 캐시 무관 레이아웃은 블록 크기가 알려진 레이아웃 알고리즘을 $O(\lg N)$번 호출하여 $O(N\lg N)$ 실행 시간에 계산할 수 있다.
• 블록 크기가 알려진 경우 두 가지 근사 전략은 최적 레이아웃 대비 근사 비율이 $\Omega(\lg B / \lg\lg B)$ 와 $O(\lg B)$ 사이임을 보였다.
• 정밀화된 캐시 무관 레이아웃에서의 기대 블록 전송 횟수는 알려진 블록 크기 케이스의 최적 기대 비용의 최대 16배 이내이다.
• 최대 블록 비용을 최소화하도록 확장한 방법은 유사한 분석을 통해 부드러움 보조정리를 활용하여 상수 요인 근사 성능을 유지한다.