[논문 리뷰] Optimal Partitioning for Dual-Pivot Quicksort

Martin Aumüller, Martin Dietzfelbinger|arXiv (Cornell University)|2013. 03. 21.

Algorithms and Data Compression참고 문헌 15인용 수 7

한 줄 요약

이 논문은 이중 피벗 퀵정렬 알고리즘을 위한 통합 모델을 제안하고 평균 비교 횟수를 $1.8n\ln n + O(n)$로 최소화하는 최적의 분할 전략을 규명한다. 이는 Yaroslavskiy의 알고리즘($1.9n\ln n + O(n)$ 비교)을 개선한 것이다. 본 방법은 피벗 선택과 원소 분포 기반으로 분할 전략을 체계적으로 분석하여 이중 피벗 정렬의 비교 효율성에 대한 이론적 하한을 도출한다.

ABSTRACT

Dual-pivot quicksort refers to variants of classical quicksort where in the partitioning step two pivots are used to split the input into three segments. This can be done in different ways, giving rise to different algorithms. Recently, a dual-pivot algorithm proposed by Yaroslavskiy received much attention, because a variant of it replaced the well-engineered quicksort algorithm in Sun's Java 7 runtime library. Nebel and Wild (ESA 2012) analyzed this algorithm and showed that on average it uses 1.9n ln n + O(n) comparisons to sort an input of size n, beating standard quicksort, which uses 2n ln n + O(n) comparisons. We introduce a model that captures all dual-pivot algorithms, give a unified analysis, and identify new dual-pivot algorithms that minimize the average number of key comparisons among all possible algorithms up to a linear term. This minimum is 1.8n ln n + O(n). For the case that the pivots are chosen from a small sample, we include a comparison of dual-pivot quicksort and classical quicksort. Specifically, we show that dual-pivot quicksort benefits from a skewed choice of pivots. We experimentally evaluate our algorithms and compare them to Yaroslavskiy's algorithm and the recently described three-pivot quicksort algorithm of Kushagra et al. (ALENEX 2014).

연구 동기 및 목표

• 이중 피벗 퀵정렬 알고리즘의 설계 공간을 체계적으로 정의하고 통합함으로써 다양한 분할 전략 간의 체계적 비교를 가능하게 한다.
• 모든 가능한 이중 피벗 알고리즘 중 평균 비교 횟수를 최소화하는 최적의 분할 방법을 규명한다.
• 이중 피벗 퀵정렬에 대한 이론적 하한을 $1.8n\ln n + O(n)$ 비교로 설정하여 Yaroslavskiy의 알고리즘과 같은 기존 알고리즘을 향상시킨다.
• 실제 실험을 통해 제안된 최적 알고리즘의 실용적 성능을 Yaroslavskiy의 알고리즘과 3피벗 퀵정렬과 비교한다.
• 표준 비용 측정 기준(비교 횟수, 스왑 횟수, 캐시 미스, 명령어 수 등)이 실질적인 실행 시간 차이를 충분히 설명하는지 탐구한다.

제안 방법

• 저자는 피벗 선택과 입력 원소의 순서에 따라 파arms된 분할 과정을 기반으로 모든 이중 피벗 퀵정렬 알고리즘을 포괄하는 일반 모델을 개발한다.
• 두 피벗의 상대적 순서와 입력 원소의 분포에 따라 평균 비교 횟수의 닫힌 형태 표현식을 유도한다.
• 해석적 조합론과 생성 함수를 사용하여 각 분할 전략에 대한 평균 비교 비용을 계산하고 설계 공간 전체에서 이를 최소화한다.
• 분할 과정에서 형성되는 세 개의 부분배열 크기를 균형 있게 조절하기 위한 변분 문제를 해결함으로써 최적 전략을 도출한다.
• 저자는 최적 알고리즘을 구현하고 Java 8를 사용하여 현대 하드웨어에서 Yaroslavskiy의 알고리즘, 고전적 퀵정렬, Kushagra 등이 제안한 3피벗 알고리즘과 함께 실험적으로 평가한다.
• 비교 횟수, 스왑 횟수, 캐시 미스(L1 및 L2), 명령어 수, 실제 실행 시간 등 다양한 비용 지표를 측정한다.

실험 결과

연구 질문

• RQ1 어느 이중 피벗 퀵정렬 알고리즘도 달성할 수 있는 최소 평균 비교 횟수는 얼마인가?
• RQ2 어느 분할 전략이 이 최소 비교 횟수를 달성하며, 이는 Yaroslavskiy의 알고리즘과 어떻게 다를까?
• RQ3 비교 횟수, 스왑 횟수, 캐시 미스 등의 표준 비용 측정 기준이 이중 피벗 퀵정렬 변종의 실제 실행 시간 차이를 어느 정도 예측할 수 있는가?
• RQ4 실제 성능 측면에서 최적 알고리즘은 Yaroslavskiy의 알고리즘과 3피벗 퀵정렬에 비해 어떻게 비교되는가?
• RQ5 이론적 비교 횟수 하한 $1.8n\ln n + O(n)$은 안정적이고 효율적인 구현을 통해 실질적으로 달성 가능한가?

주요 결과

• 최적의 이중 피벗 퀵정렬 알고리즘은 평균 비교 횟수를 $1.8n\ln n + O(n)$로 달성하며, 이는 Yaroslavskiy의 $1.9n\ln n + O(n)$보다 낮다.
• 최적 전략은 피벗 순서와 원소 분포 기반으로 파arms된 분할 과정을 포괄하는 통합 모델에서 유도되었다.
• 실험 결과, 최적 알고리즘은 자바 8 기준으로 3피벗 알고리즘보다 약 37% 느리며, 이는 벤치마크에서 가장 빠른 알고리즘이다.
• Yaroslavskiy의 알고리즘은 이론적 비교 횟수는 더 높지만 실질적으로 최적 알고리즘과 거의 유사한 성능을 보였다.
• 비교 횟수나 스왑 횟수만으로는 관측된 실행 시간의 차이를 설명할 수 없었으며, 캐시 미스와 명령어 수 역시 영향을 미쳤지만, 어느 하나의 지표도 성능을 완전히 예측하지 못했다.
• 이 연구는 비교 횟수의 하위항이 $O(n)$임을 확인하였으며, 이는 이전에 가정된 바와 같이 $o(n\ln n)$보다 더 엄격한 조건임을 입증한다.