[논문 리뷰] Insertion Sort is O(n log n)

Michael A. Bender, Martı́n Farach-Colton외 1명|ArXiv.org|2004. 07. 01.

Algorithms and Data Compression참고 문헌 4인용 수 5

한 줄 요약

이 논문은 요소들 사이에 균일하게 분포된 간격을 유지함으로써 삽입 시간을 줄이는 삽입 정렬의 변종인 Gapped Insertion Sort(또는 라이브러리 정렬)을 소개한다. 무작위 입력 순열과 산란 인자(spread factor)를 사용함으로써, 알고리즘은 높은 확률로 O(n log n)의 기대 시간 복잡도를 달성하며, 기존의 O(n²) 삽입 정렬보다 크게 향상된다.

ABSTRACT

Traditional Insertion Sort runs in O(n^2) time because each insertion takes O(n) time. When people run Insertion Sort in the physical world, they leave gaps between items to accelerate insertions. Gaps help in computers as well. This paper shows that Gapped Insertion Sort has insertion times of O(log n) with high probability, yielding a total running time of O(n log n) with high probability.

연구 동기 및 목표

• 기존 삽입 정렬이 삽입 중에 요소 이동 비용이 높아 O(n²) 시간에 수행되는 비효율성을 해결하기 위해.
• 정렬된 배열에서 요소들 사이에 간격을 유지하면 실제로나 이론적으로 삽입 비용을 줄일 수 있는지 탐색하기 위해.
• 무작위 입력 순열 하에서 갭 기반 삽입 알고리즘의 기대값 및 높은 확률 성능을 분석하기 위해.
• 간격을 전략적으로 유지할 경우 삽입 시간이 높은 확률로 O(log n)이 되는 것을 정식으로 기술하고 증명하기 위해.
• 이전의 기대값만을 다룬 분석에 비해 더 단순하고 엄밀한 분석을 제공하여 갭 기반 정렬의 높은 확률 경계를 향상시키기 위해.

제안 방법

• 알고리즘은 n개의 요소를 저장하기 위해 크기가 (1+ε)n인 더 큰 배열 S를 사용하며, 균일하게 분포된 간격을 통해 더 빠른 삽입을 가능하게 한다.
• 삽입은 라운드 단위로 수행되며, 각 라운드는 삽입된 요소 수를 두 배로 늘리고 산란 인자 2+2ε를 사용해 재균형을 맞춘다.
• 각 라운드 동안, 이전에 삽입된 요소들인 지지 요소들 위에서 이진 탐색을 수행하여 삽입 위치를 O(log m) 시간에 찾는다.
• 삽입 시에는 가장 가까운 간격에 도달할 때까지 요소들만 이동시키므로, 이동하는 요소의 수는 높은 확률로 O(log n)으로 제한된다.
• 긴 연속된 요소들 사이에 간격이 끼어 있는 경우가 매우 흔하지 않음을 보여주기 위해 이항 계수와 스타링의 근사법을 사용한 확률적 경계를 활용한다.
• 비중복 세그먼트 각각의 크기가 (2+ε)c log m인 경우에 대해 유니온 바운드를 적용하여, 어떤 세그먼트 내부에도 간격이 존재할 가능성이 높다는 것을 보장한다.

실험 결과

연구 질문

• RQ1 정렬된 배열에서 균일하게 분포된 간격을 유지하면 삽입 정렬의 기대 삽입 비용을 줄일 수 있는가?
• RQ2 산란 인자를 사용해 간격을 유지할 경우, 삽입 시 이동해야 할 요소의 기대 수는 얼마인가?
• RQ3 어떤 조건에서 삽입 비용이 O(n)에서 높은 확률로 O(log n)으로 떨어지는가?
• RQ4 간격 크기(ε에 의해 제어됨)의 선택이 공간 오버헤드와 삽입 시간 사이의 트레이드오���에 어떤 영향을 미치는가?
• RQ5 기대값 경계를 넘어서 높은 확률 분석을 통해 갭 기반 삽입 정렬의 삽입 비용을 분석할 수 있는가?

주요 결과

• 첫 O(√n)개 요소에 대한 삽입 비용은 최악의 경우 O(n)이며, 표준 삽입 정렬과 일치한다.
• 모든 재균형 작업의 총 비용은 이중 라운드에 대한 분할 정복 분석을 통해 O(n)이다.
• 각 삽입의 검색 비용은 지지 요소들 위에서 이진 탐색을 수행하므로, 삽입된 요소 수 m에 대해 O(log m)이다.
• m = Ω(√n)일 경우, 간격이 (2+ε)c log m 크기의 세그먼트 내에 존재하므로, 삽입당 이동하는 요소 수는 높은 확률로 O(log m)이다.
• (2+ε)c log m 크기의 세그먼트에 (1+ε)c log m개 이상의 삽입된 요소가 포함될 확률은 다항식적으로 작으며, 이는 간격이 높은 확률로 존재함을 보장한다.
• 전반적으로 라이브러리 정렬의 실행 시간은 O(n log n)이 되며, 이는 O(n)의 재균형 비용, O(n log n)의 검색 비용, 그리고 O(n log n)의 삽입 비용(모두 높은 확률로)을 조합함으로써 달성된다.