[論文レビュー] Pattern-defeating Quicksort

Orson R. L. Peters|arXiv (Cornell University)|Jun 9, 2021

Algorithms and Data Compression参考文献 12被引用数 9

ひとこと要約

この論文は、深さベースのフォールバックに代わり、悪質なパーティショニング検出ヒューリスティクスと、オランダの国旗問題に対する新しいで、効率的な解決法を組み込んだハイブリッドソーティングアルゴリズムであるPattern-Defeating Quicksort (pdqsort) を紹介する。その結果、$k$ 個の異なる要素を含む入力に対して最悪計算量$O(nk)$を達成する一方で、クイックソートの平均ケースの高速性を維持し、重複や事前にソートされたシーケンスといったパターンに対して標準クイックソートを上回る性能を発揮する。

ABSTRACT

A new solution for the Dutch national flag problem is proposed, requiring no three-way comparisons, which gives quicksort a proper worst-case runtime of $O(nk)$ for inputs with $k$ distinct elements. This is used together with other known and novel techniques to construct a hybrid sort that is never significantly slower than regular quicksort while speeding up drastically for many input distributions.

研究の動機と目的

• 多くの重複要素や構造的要素を含む入力に対して、従来のクイックソートの最悪ケース$O(n^2)$性能を解消すること。
• 再帰の深さを唯一のフォールバックトリガーとする依存を排除することにより、不正確なスイッチングを回避し、不要な切り替えを減らすこと。
• 三路比較を明示的に行わずに、等価な要素を効率的に処理できるパーティショニング方式を設計し、オランダの国旗問題を$O(nk)$時間で解くこと。
• 問題のある入力パターンにおいても、決定的で高速な性能を維持しながら、クイックソートの実用的高速性を保つこと。
• 標準ライブラリへの統合に適した汎用的で不安定なソーティングアルゴリズムを設計し、平均ケースでの性能劣化を最小限に抑えること。

提案手法

• 三路比較を明示的に行わず、接近する二方向ポインタインヴァリアントを用いた新しいパーティショニング方式を導入し、三部分割パーティショニングを実現すること。
• パーティショニングの質が低下した場合にのみヒープソートにフォールバックする悪質なパーティショニング検出メカニズムを採用し、深さベースの切り替えに比べてより精度の高いヒューリスティクスを実現すること。
• ブロックベースのパーティショニングと分岐なし比較関数を用いてパーティショニングを高速化し、BlockQuicksortにインspiredされたものである。
• 大規模な入力に対して高いピボット品質を実現するため、中央値の3つ組とニンター（ninther）ピボット選択を採用すること。
• スワップレスパーティショニングにおける上行／下行シーケンスの楽観的処理を、最小限のオーバーヘッドを持つ特別な挿入ソート変種で実装すること。
• 悪質なパーティショニングを検出すると、要素の交換により多様性を導入し、新たなピボット候補を生成することでパターンを破壊する新しい技術を用いること。

実験結果

リサーチクエスチョン

• RQ1 $k$ 個の異なる要素を含む入力に対して、平均ケースの効率を保ちながら$O(nk)$の最悪ケース性能を保証するハイブリッドソーティングアルゴリズムを設計することは可能か？
• RQ2 インツォペクティブソーティングにおけるフォールバックメカニズムを、再帰の深さの閾値を超えて改善することで、不要なスイッチングを減らし、病理的挙動の検出を向上させることは可能か？
• RQ3 三路比較を用いずに、オランダの国旗問題を効率的に解くことは可能か？これにより、クイックソートにおける重複要素の処理が改善されるか？
• RQ4 平均ケースおよびランダム入力において、パタン・デフェーティングヒューリスティクスを実装しても、性能に顕著な影響がないか？
• RQ5 多様な入力分布とデータ型において、従来のアルゴリズム（introsort, Timsort, ブロックベースクイックソート）と比較して、実用的な性能はどの程度か？

主な発見

• Pattern-Defeating Quicksort (pdqsort) は、$k$ 個の異なる要素を含む入力に対して、三路比較を用いずにオランダの国旗問題を効率的に解くことで、$O(nk)$の最悪ケース時間計算量を達成する。
• 標準クイックソート（std::sort）やブロッククイックソート（bq）と比較して、顕著な性能劣化を示さず、唯一のケース（large uniform-int 入力における pdq vs. std）で4.5％の劣化にとどまる。
• 上行／下行シーケンスなどの構造的入力では、スワップレスパーティショニングにおける楽観的挿入ソートのおかげで、Timsortに匹敵する近い性能を達成し、ランの効率性を凌駕する。
• 大きなサイズのデータ型（例：bigstr）では、$n = 2^{16}$ でL1キャッシュサイズに一致する地点で性能が低下するが、依然として競争力があり、パターンに強い。
• 重複が多い入力（例：mod8, ones）では、等価要素の処理の有効性が顕著に現れ、標準クイックソートを著しく上回る。
• 長大なランを含む非常に構造的なデータではTimsortが依然として最速であるが、pdqsortは効率的な実装のおかげで、特に大規模または複雑なデータ型において、今や非常に競争力を持つようになった。