[论文解读] How robust is quicksort average complexity?

Suman Kumar Sourabh, Soubhik Chakraborty|arXiv (Cornell University)|Nov 26, 2008

Algorithms and Data Compression参考文献 7被引用 8

一句话总结

本文通过分析六种标准概率分布下的性能，研究了快速排序平均情况时间复杂度的鲁棒性。研究发现，仅在均匀分布、指数分布和标准正态分布下支持平均情况时间复杂度，而其他分布则导致最坏情况行为，表明在典型分布下，快速排序的平均情况分析缺乏广泛的鲁棒性。

ABSTRACT

The paper questions the robustness of average case time complexity of the fast and popular quicksort algorithm. Among the six standard probability distributions examined in the paper, only continuous uniform, exponential and standard normal are supporting it whereas the others are supporting the worst case complexity measure. To the question -why are we getting the worst case complexity measure each time the average case measure is discredited? -- one logical answer is average case complexity under the universal distribution equals worst case complexity. This answer, which is hard to challenge, however gives no idea as to which of the standard probability distributions come under the umbrella of universality. The morale is that average case complexity measures, in cases where they are different from those in worst case, should be deemed as robust provided only they get the support from at least the standard probability distributions, both discrete and continuous. Regretfully, this is not the case with quicksort.

研究动机与目标

• 评估快速排序的平均情况时间复杂度是否在各种概率分布下保持鲁棒性。
• 确定在哪些标准分布下平均情况时间复杂度成立，以及在哪些情况下退化为最坏情况行为。
• 探讨平均情况复杂度可能不具备普遍适用性的理论依据。
• 评估当平均情况复杂度缺乏常见分布支持时，其作为可靠性能度量的有效性。

提出的方法

• 作者分析了快速排序在六种标准概率分布下的期望时间复杂度：连续均匀分布、指数分布、标准正态分布、伯努利分布、二项分布和几何分布。
• 他们计算了每种分布下快速排序的期望比较次数，以评估平均情况复杂度是否成立。
• 分析重点在于期望比较次数是否与理论上的平均情况 O(n log n) 一致，或是否退化为最坏情况 O(n²)。
• 该研究使用渐近分析和概率建模方法，比较了不同分布下的期望性能。
• 引入了“普遍性”概念，以解释为何在某些分布下平均情况复杂度可能等价于最坏情况复杂度。

实验结果

研究问题

• RQ1 在哪些标准概率分布下，快速排序能保持其平均情况时间复杂度？
• RQ2 当底层分布不是均匀分布、指数分布或正态分布时，为何平均情况复杂度会失效？
• RQ3 若平均情况复杂度仅在有限的分布集合下成立，其鲁棒性在多大程度上可被接受？
• RQ4 是否存在理论依据解释为何在普遍分布下平均情况复杂度等于最坏情况复杂度？

主要发现

• 快速排序的平均情况时间复杂度 O(n log n) 仅在连续均匀分布、指数分布和标准正态分布下得到支持。
• 对于其余三种分布——伯努利分布、二项分布和几何分布，期望比较次数与最坏情况 O(n²) 复杂度一致。
• 平均情况分析在标准分布下不成立，削弱了其作为性能度量的鲁棒性。
• 本文提出，平均情况复杂度在普遍分布下可能等价于最坏情况复杂度，这是一种理论解释，但缺乏常见分布的实际支持。