[论文解读] Pattern-defeating Quicksort

Orson R. L. Peters|arXiv (Cornell University)|Jun 9, 2021

Algorithms and Data Compression参考文献 12被引用 9

一句话总结

本文提出了一种新型混合排序算法——Pattern-Defeating Quicksort（pdqsort），该算法通过用基于坏分区检测的启发式方法替代传统introspective quicksort中的深度检测机制，显著提升了性能。同时，该算法还引入了一种新颖且高效的荷兰国旗问题解决方案。最终，对于包含 $k$ 个不同元素的输入，其最坏情况时间复杂度为 $O(nk)$，同时保持了快速排序的平均时间复杂度优势，并在处理重复元素和已排序序列等典型输入模式时优于标准快速排序。

ABSTRACT

A new solution for the Dutch national flag problem is proposed, requiring no three-way comparisons, which gives quicksort a proper worst-case runtime of $O(nk)$ for inputs with $k$ distinct elements. This is used together with other known and novel techniques to construct a hybrid sort that is never significantly slower than regular quicksort while speeding up drastically for many input distributions.

研究动机与目标

• 解决传统快速排序在包含大量重复元素或结构化元素的输入上出现的最坏情况 $O(n^2)$ 时间复杂度问题。
• 消除对递归深度作为唯一回退触发机制的依赖，该机制可能不够精确，导致不必要的切换。
• 设计一种分区方案，能够高效处理相等元素，而无需使用三路比较，从而在 $O(nk)$ 时间内解决荷兰国旗问题。
• 在保持快速排序实际运行速度的同时，确保在问题输入模式下具有确定性性能。
• 设计一种通用的、不稳定排序算法，适用于标准库集成，且在平均情况下的性能退化可忽略。

提出的方法

• 提出一种新型分区方案，利用双指针逼近的不变式实现三路分区，而无需显式使用三路比较。
• 采用坏分区检测机制，仅在分区质量下降时才触发回退至堆排序，相比基于深度的切换方式，显著提升了启发式判断的精确度。
• 采用基于块的分区策略，并结合无分支比较函数，以加速分区过程，灵感源自 BlockQuicksort。
• 应用三数取中和九数取中（ninther）的枢纽选择策略，以确保在大规模输入下仍具备稳健的枢纽质量。
• 通过一种特殊的插入排序变体，对升序/降序序列进行乐观处理，开销极低。
• 采用一种新颖技术，在检测到坏分区时交换元素，引入多样性并生成新的枢纽候选，以破坏输入模式。

实验结果

研究问题

• RQ1 能否设计一种混合排序算法，在保持快速排序平均时间效率的同时，对包含 $k$ 个不同元素的输入保证 $O(nk)$ 的最坏情况时间复杂度？
• RQ2 是否可以改进 introspective sorting 中的回退机制，使其超越仅依赖递归深度的阈值，从而减少不必要的切换并更准确地检测病态行为？
• RQ3 是否可能在不使用三路比较的前提下高效解决荷兰国旗问题，从而在快速排序中更优地处理重复元素？
• RQ4 是否可以实现对模式的防御性启发式策略，且对平均情况和随机输入的性能影响可忽略？
• RQ5 在不同输入分布和数据类型下，该算法与 introsort、Timsort 和基于块的快速排序等成熟算法相比，实际表现如何？

主要发现

• Pattern-Defeating Quicksort（pdqsort）在包含 $k$ 个不同元素的输入上实现了 $O(nk)$ 的最坏情况时间复杂度，有效解决了无需三路比较的荷兰国旗问题。
• 与标准快速排序（std::sort）或基于块的快速排序（bq）相比，pdqsort 的性能无显著退化，仅在一种情况下出现 4.5% 的退化（pdq 与 std 在大尺寸均匀整数输入上）。
• 在结构化输入（如升序/降序序列）上，由于在无交换分区上使用了乐观插入排序，pdqsort 的性能接近 Timsort，与 Timsort 在处理有序段时的效率相当。
• 对于大尺寸数据类型（如 bigstr），当 $n = 2^{16}$ 时，pdqsort 出现性能下降，这与 L1 缓存大小一致，但其整体仍具竞争力且对模式具有强鲁棒性。
• 在存在大量重复元素的输入（如 mod8、ones）上，pdqsort 显著优于标准快速排序，充分证明了其处理相等元素机制的有效性。
• Timsort 在具有长有序段的高度结构化数据上仍为最快，但得益于高效的实现，pdqsort 现在在大尺寸或复杂数据类型上也极具竞争力。