[論文レビュー] Quicksort with median of medians is considered practical

Noriyuki Kurosawa|arXiv (Cornell University)|Aug 17, 2016

Advanced Data Processing Techniques参考文献 4被引用数 4

ひとこと要約

本稿では、入力のスプライシングを伴う中位の中央値によるピボット選択を用いたクイックソートの実用的変種を提案する。最適なスプライシングパラメータ（例：s=40）を用いることで、最悪計算量がO(n log n)であると同時に、ランダムデータ上での標準的な最適化クイックソートと同等またはそれ以上の性能を達成している。中位の中央値の定数要因を、選択的サンプリングによって低減することで、理論的にも強く、実験的にも効率的な手法であることが示された。

ABSTRACT

The linear pivot selection algorithm, known as median-of-medians, makes the worst case complexity of quicksort be $\mathrm{O}(n\ln n)$. Nevertheless, it has often been said that this algorithm is too expensive to use in quicksort. In this article, we show that we can make the quicksort with this kind of pivot selection approach be efficient.

研究の動機と目的

• クイックソートにおける中位の中央値によるピボット選択が、実用的すぎるという長年の信念に挑戦すること。
• ピボット選択の前に入力をスプライシングすることで、中位の中央値の定数要因を低減し、計算のオーバーヘッドを削減すること。
• その結果得られるアルゴリズムが、最悪計算量O(n log n)を維持すると同時に、平均ケースの入力においても競争力のある性能を示すこと。
• スプライシング技術を、3^Lの擬似中央値といった他のピボット選択戦略へと拡張し、その性能を評価すること。
• 修正されたアルゴリズムが、ランダム列において標準的手法（例：中位の3つ組）や擬似中央値の9つ組よりも優れているという実験的証拠を提供すること。

提案手法

• 入力配列から毎s番目の要素のみを用いて中位の中央値によるピボット選択を行うスプライシング戦略を導入し、入力サイズをn/sに削減する。
• スプライシングされたサブセットに対してBFPRTアルゴリズムを適用し、少なくとも30％の要素が各側に来るピボットを選択することで、O(n log n)の最悪計算量を保証する。
• 漸近的定数要因aを時間計算量an log n + bnのモデルで推定する再帰的関係式を導出する。その結果、aはsの増加に従って減少することが示された。
• 3^Lの擬似中央値を用いた代替手法を提案する。この手法では、配列を再帰的に3つの部分に分割し、部分の中央値の中央値をピボットとして選ぶ。
• 実験的な比較回数を最小二乗法でフィッティングし、さまざまなピボット戦略におけるan log n + bnモデルの係数aとbを推定する。
• 小規模な部分配列に対して挿入ソートへの切り替えを行わず、単一ピボット分割方式と元のBFPRTアルゴリズムを用いることで、ピボット選択の影響を明確に分離する。

実験結果

リサーチクエスチョン

• RQ1 入力のスプライシングによって入力サイズを小さくすることで、クイックソートにおける中位の中央値によるピボット選択を実用的に行えるか？
• RQ2 最悪計算量の定数要因を最小化しつつ、良好な平均ケース性能を維持する最適なスプライシングパラメータsは何か？
• RQ3 スプライシングを施した中位の中央値によるピボット選択法は、ランダム列上での中位の3つ組や擬似中央値の9つ組といった既存手法と比べてどのように性能を発揮するか？
• RQ4 スプライシング技術は、3^Lの擬似中央値といった他のピボット選択戦略へも一般化可能か？ その場合、最悪計算量の挙動が改善されるか？
• RQ5 スプライシングを施した中位の中央値によるピボット選択法の実験的性能は、比較回数と漸近的計算量に関する理論的予測と整合しているか？

主な発見

• s=40の場合、スプライシングを施したBFPRT法（t-BFPRT）の比較回数モデルan log n + bnにおける係数aは約1.5371となり、中位の3つ組（a ≈ 1.710）を上回り、擬似中央値の9つ組（a ≈ 1.568）に近い性能を示した。
• s=40のt-BFPRT法は、高度に最適化された擬似中央値の9つ組（PMed9）法と同等の性能を示し、比較回数もほぼ同一であった。
• t-PMed3^L法においてs=40を用いた場合、係数aは約1.528となり、s=40のt-BFPRT法をわずかに上回り、中位の3つ組よりも顕著に優れていた。
• t-BFPRT法の係数aはsの増加に従って単調に減少し、sが増加するにつれて理論的下限値1/log 2 ≈ 1.443に近づく。
• s=40のt-BFPRT法およびt-PMed3^L法は、ランダム列上での性能が安定しており、分散が小さく、an log n + bnモデルへの実験的適合度も非常に高かった。
• 最悪ケースにおいても、保証されたO(n log n)の比較回数を達成しており、平均入力においても競争力のある性能を維持していた。