[논문 리뷰] Building a Balanced k-d Tree in O(kn log n) Time

Russell A. Brown|arXiv (Cornell University)|2014. 10. 20.

Algorithms and Data Compression참고 문헌 13인용 수 34

한 줄 요약

이 논문은 사전 정렬을 통해 각 차원에 대해 데이터를 사전에 정렬하고 트리 구축 중에도 정렬 순서를 유지함으로써 O(kn log n) 시간에 균형 잡힌 k-d 트리를 구축하는 새로운 알고리즘을 제안한다. 중앙값 찾기 방법과는 달리 반복적인 정렬을 피함으로써 효율적인 병렬 처리가 가능해지고, 3차원 이하의 저차원 공간에서 기존 방법보다 뛰어난 성능을 보이며, 4차원에서는 동일한 성능을 유지한다.

ABSTRACT

The original description of the k-d tree recognized that rebalancing techniques, such as are used to build an AVL tree or a red-black tree, are not applicable to a k-d tree. Hence, in order to build a balanced k-d tree, it is necessary to find the median of the data for each recursive subdivision of those data. The sort or selection that is used to find the median for each subdivision strongly influences the computational complexity of building a k-d tree. This paper discusses an alternative algorithm that builds a balanced k-d tree by presorting the data in each of k dimensions prior to building the tree. It then preserves the order of these k sorts during tree construction and thereby avoids the requirement for any further sorting. Moreover, this algorithm is amenable to parallel execution via multiple threads. Compared to an algorithm that finds the median for each recursive subdivision, this presorting algorithm has equivalent performance for four dimensions and better performance for three or fewer dimensions.

연구 동기 및 목표

• 특히 저차원 공간에서 중앙값 찾기 알고리즘의 비효율성을 해결하기 위해.
• 이진 탐색 트리의 리밸런싱 기법(예: AVL, 레드_blk)이 k-d 트리에 적용되지 않는 한계를 극복하기 위해.
• 재귀적 분할 과정 중에 차원 간 데이터 순서를 유지하여 반복적인 정렬을 제거하기 위해.
• 정렬과 트리 구축을 분리함으로써 병렬 실행을 효율적으로 가능하게 하기 위해.
• k ≤ 3에 대해 최적의 시간 복잡도 O(kn log n)를 확보하면서도 실질적인 성능 향상을 이루기 위해.

제안 방법

• 트리 구축 이전에 입력 데이터를 각 k차원에 대해 사전 정렬한다.
• 재귀적 분할 과정 全 과정 동안 모든 k차원에 대해 데이터 포인트의 정렬 순서를 유지한다.
• 각 재귀 수준에서 사전 정렬된 데이터의 중앙값을 사용해 데이터 세트를 분할함으로써 반복적인 선택 또는 정렬을 피한다.
• 사전 정렬된 구조를 활용해 인덱스 추적을 통해 각 수준당 O(1) 시간에 중앙값과 분할 포인트를 추출한다.
• 정렬 순서를 유지하고 효율적인 분할 및 순회를 지원하는 데이터 구조를 설계한다.
• 초기 사전 정렬이 완료된 후에는 서브트리 처리를 독립적으로 수행할 수 있도록 병렬 처리를 지원한다.

실험 결과

연구 질문

• RQ1 반복적인 중앙값 찾기 연산을 제거함으로써 k-d 트리 구축 속도를 향상시킬 수 있는가?
• RQ2 각 차원에 대해 사전 정렬된 데이터가 각 재귀 호출에서 중앙값 찾기 방법과 비교해 점근적 및 실질적 성능을 향상시키는가?
• RQ3 제안된 방법이 O(kn log n) 시간 복잡도를 달성하면서도 저차원 환경에서 기존 방법보다 더 효율적인가?
• RQ4 정렬과 트리 구축을 분리함으로써 알고리즘이 얼마나 병렬화될 수 있는가?
• RQ5 k = 2, 3, 4일 때 사전 정렬 기반 방법과 중앙값 찾기 방법 간의 상수 요소 차이에 따라 성능는 어떻게 비교되는가?

주요 결과

• 제안된 알고리즘은 균형 잡힌 k-d 트리 구축에 대해 O(kn log n) 시간 복잡도를 달성하며, 중앙값 찾기 방법의 이론적 한계와 동일하다.
• k ≤ 3 차원에서는 상수 요소 감소와 더 나은 메모리 액세스 패턴으로 인해 사전 정렬 방법이 중앙값 찾기 알고리즘을 능가한다.
• 4차원에서는 사전 정렬 방법의 성능이 중앙값 찾기 접근법과 동일하다.
• 정렬이 트리 구축 전에 한 번만 수행되므로 알고리즘이 병렬 처리에 매우 적합하다.
• 각 재귀 수준에서 반복적인 선택 또는 정렬의 오버헤드를 피함으로써 캐시 효율성이 크게 향상된다.
• 논문의 구현을 통한 실증 결과는 2차원 및 3차원에서 뛰어난 성능을 입증하며, 실질적인 속도 향상이 측정된다.