[논문 리뷰] Quicksort with median of medians is considered practical

Noriyuki Kurosawa|arXiv (Cornell University)|2016. 08. 17.

Advanced Data Processing Techniques참고 문헌 4인용 수 4

한 줄 요약

이 논문은 입력의 얇은 처리를 통해 메디안 오브 메디안스 피벗 선택을 활용한 퀵소트의 실용적 변종을 제안하며, 최적의 얇은 처리 파라미터(예: s=40)를 사용할 경우, 평균적인 랜덤 데이터에서 표준 최적화된 퀵소트와 동일하거나 그 이상의 성능을 보이며, 최악의 경우 O(n log n) 성능을 달성함을 입증한다. 이 방법은 선택적 샘플링을 통해 메디안 오브 메디안스의 상수 요소를 줄여 이론적으로도 견고하고 실험적으로도 효율적인 것으로 나타났다.

ABSTRACT

The linear pivot selection algorithm, known as median-of-medians, makes the worst case complexity of quicksort be $\mathrm{O}(n\ln n)$. Nevertheless, it has often been said that this algorithm is too expensive to use in quicksort. In this article, we show that we can make the quicksort with this kind of pivot selection approach be efficient.

연구 동기 및 목표

• 메디안 오브 메디안스 피벗 선택이 퀵소트에서 실용적으로 너무 느리다는 오랫동안 지속된 믿음을 도전하기 위해.
• 피벗 선택 전에 입력을 얇게 처리하여 메디안 오브 메디안스의 상수 요소를 개선하고, 계산 오버헤드를 줄이기 위해.
• 결과적으로 도출된 알고리즘이 최악의 경우 O(n log n) 복잡도를 유지하면서 평균 입력에 대해 경쟁 가능한 성능을 달성함을 입증하기 위해.
• 입력의 얇은 처리 기법을 메디안 오브 3^L과 같은 다른 피벗 선택 전략으로 확장하고, 그 성능을 평가하기 위해.
• 수정된 알고리즘이 랜덤 시퀀스에서 표준 방법들인 메디안 오브 세 개와 메디안 오브 아홉의 의사 메디안과 비교해도 승리하는 경험적 증거를 제공하기 위해.

제안 방법

• 입력 배열에서 매 s번째 요소만 사용하여 메디안 오브 메디안스 피벗 선택을 위한 얇은 처리 전략을 도입하여 입력 크기를 n/s로 줄임.
• 얇은 부분집합에 대해 BFPRT 알고리즘을 적용하여 각 쪽에 최소 30%의 요소가 있도록 피벗을 선택함으로써 O(n log n) 최악의 경우 복잡도를 보장함.
• 시간 복잡도 an log n + bn에서 상수 요소 a의 점 渐진적 추정을 위해 점화식을 유도함. 이는 s가 증가함에 따라 감소함을 보여줌.
• 메디안 오브 메디안스의 의사 메디안 3^L을 사용하는 대안 방법을 제안함. 배열을 세 부분으로 재귀적으로 분할하고, 하위 부분의 메디안 오브 메디안스를 선택함.
• 다양한 피벗 전략에 대해 비교 횟수를 최소 제곱법으로 피팅하여 모델 an log n + bn의 계수 a와 b를 추정함.
• 작은 부분배열에 대해 삽입 정렬로 전환하지 않고, 단일 피벗 분할 기법과 원래의 BFPRT 알고리즘을 사용하여 피벗 선택의 영향을 고립함.

실험 결과

연구 질문

• RQ1 입력의 얇은 처리를 통해 메디안 오브 메디안스 피벗 선택의 입력 크기를 줄임으로써 퀵소트에서 실용적으로 사용 가능한가?
• RQ2 최악의 경우 시간 복잡도의 상수 요소를 최소화하면서 양호한 평균 성능을 유지하는 데 최적의 얇은 처리 파라미터 s는 무엇인가?
• RQ3 랜덤 시퀀스에서 얇은 처리된 메디안 오브 메디안스 방법의 성능은 메디안 오브 세 개와 메디안 오브 아홉의 의사 메디안과 비교해 어떻게 되는가?
• RQ4 입력의 얇은 처리 기법을 메디안 오브 3^L과 같은 다른 피벗 선택 전략으로 일반화할 수 있으며, 이는 그들의 최악의 경우 행동을 향상시킬 수 있는가?
• RQ5 얇은 처리된 메디안 오브 메디안스 알고리즘의 경험적 성능은 비교 횟수와 점 渐진적 복잡도에 대한 이론적 예측과 일치하는가?

주요 결과

• s=40일 때, 얇은 BFPRT 방법(t-BFPRT)은 비교 횟수 모델 an log n + bn에서 계수 a ≈ 1.5371을 기록하며, 메디안 오브 세 개(a ≈ 1.710)를 능가하고 메디안 오브 아홉의 의사 메디안(a ≈ 1.568)에 가까워진다.
• s=40일 때 t-BFPRT 방법은 잘 최적화된 메디안 오브 아홉의 의사 메디안(PMed9) 방법과 유사한 성능을 보이며, 거의 동일한 비교 횟수를 기록한다.
• t-PMed3^L 방법의 경우 s=40일 때 계수 a ≈ 1.528을 기록하며, s=40일 때 t-BFPRT보다 略적으로 우수하고 메디안 오브 세 개보다는 훨씬 우수하다.
• t-BFPRT의 계수 a는 s가 증가함에 따라 단조 감소하며, s가 증가함에 따라 이론적 하한선 1/log 2 ≈ 1.443에 수렴한다.
• s=40일 때 t-BFPRT와 t-PMed3^L의 성능은 랜덤 시퀀스에서 낮은 분산과 함께 매우 안정적이며, an log n + bn 모델에 강력한 경험적 적합도를 보인다.
• 이 방법은 최악의 경우에도 효율적이며, 보장된 O(n log n) 비교 횟수를 유지하면서 평균 입력에서도 경쟁 가능한 성능을 유지한다.