[論文レビュー] Analysis of Pivot Sampling in Dual-Pivot Quicksort

Sebastian Wild, Markus E. Nebel+1 more|arXiv (Cornell University)|Nov 30, 2014

Parallel Computing and Optimization Techniques被引用数 7

ひとこと要約

本稿は、ヤロスラフスキーの二ピボットクイックソートにおけるピボットサンプリングを分析し、サンプルから非対称な順序統計量（偏った順序統計量）を選択することで、比較的対称なサンプリングに比べて、要素のスキャン回数やI/O操作をより効果的に削減できることを示している。主な貢献は、Yaroslavskiyのアルゴリズムが古典的クイックソートを凌駃する主な要因が比較回数ではなく、メモリ階層の効率的利用にあることを明らかにした包括的コスト解析である。

ABSTRACT

The new dual-pivot Quicksort by Vladimir Yaroslavskiy - used in Oracle's Java runtime library since version 7 - features intriguing asymmetries. They make a basic variant of this algorithm use less comparisons than classic single-pivot Quicksort. In this paper, we extend the analysis to the case where the two pivots are chosen as fixed order statistics of a random sample. Surprisingly, dual-pivot Quicksort then needs more comparisons than a corresponding version of classic Quicksort, so it is clear that counting comparisons is not sufficient to explain the running time advantages observed for Yaroslavskiy's algorithm in practice. Consequently, we take a more holistic approach and give also the precise leading term of the average number of swaps, the number of executed Java Bytecode instructions and the number of scanned elements, a new simple cost measure that approximates I/O costs in the memory hierarchy. We determine optimal order statistics for each of the cost measures. It turns out that the asymmetries in Yaroslavskiy's algorithm render pivots with a systematic skew more efficient than the symmetric choice. Moreover, we finally have a convincing explanation for the success of Yaroslavskiy's algorithm in practice: Compared with corresponding versions of classic single-pivot Quicksort, dual-pivot Quicksort needs significantly less I/Os, both with and without pivot sampling.

研究の動機と目的

• Yaroslavskiyの二ピボットクイックソートが、比較回数がより多いにもかかわらず実際には古典的単ピボットクイックソートを上回る理由を理解すること。
• 特に、サンプルから非対称な順序統計量を選択するようなピボットサンプリング戦略が、全体的なアルゴリズムコストに与える影響を分析すること。
• 比較以外の複数のコスト指標（スワップ、バイトコード命令、スキャンされた要素数）を評価し、最適なピボットサンプリング方式を同定すること。
• 現実的なコストモデルに基づく、二ピボットクイックソートのパフォーマンストレードオフを包括的・統合的に分析すること。

提案手法

• 定数サイズのサンプルから固定の順序統計量としてピボットを選択する、さまざまなピボットサンプリング戦略の下でヤロスラフスキーの非対称なパーティショニング方式を分析する。
• キー比較、スワップ、Javaバイトコード命令、スキャンされた要素数の4つのコスト指標について、正確な漸近的先行項表現を導出する。
• 外部記憶モデルにおけるI/Oおよびキャッシュミスの近似としての「スキャンされた要素数」という新たなコスト指標を導入する。
• 解析的組合せ論と母関数を用いて、パーティショニングプロセスおよび再帰的部分問題サイズの挙動をモデル化する。
• パーティショニングコストと部分問題のバランスのトレードオフを分析し、各コスト指標ごとに最適なピボットの非対称性（歪み）を特定する。
• 古典的クイックソートの変種や先行の実験的観察と比較することで、結果の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 Yaroslavskiyの二ピボットクイックソートが、比較回数がより多いにもかかわらず実際には古典的単ピボットクイックソートを上回る理由は何か？
• RQ2 ピボットサンプリング（特に、サンプルから非対称な順序統計量を選択すること）は、二ピボットクイックソートのパフォーマンスにどのように影響するか？
• RQ3 比較、スワップ、バイトコード、スキャンされた要素数のうち、どのコスト指標がYaroslavskiyのアルゴリズムの実用的パフォーマンス優位性を最もよく説明するか？
• RQ4 分析した4つのコスト指標（比較、スワップ、バイトコード、スキャンされた要素数）を最小化する最適なピボットサンプリング戦略（順序統計量の選択）は何か？
• RQ5 スキャンされた要素数は、実際のI/Oパフォーマンスおよびキャッシュ効率とどの程度相関しているか？

主な発見

• Yaroslavskiyの二ピボットクイックソートは平均して1.4035n ln n個のスキャンされた要素を要するが、これは古典的クイックソートの1.5697n ln nに比べて顕著に少ない。この差が、優れたI/O効率を説明している。
• 四等分点（五つからなる中央値）の対称的選択は非効率である。ピボット選択における意図的な歪みを導入することで、スキャンされた要素数と全体のコストが削減される。
• スキャンされた要素数はパフォーマンス差の強力な予測要因であり、Yaroslavskiyのアルゴリズムはこの指標で古典的クイックソート比で12%の削減を達成している。
• 比較回数以外のすべてのコスト指標において、最適なピボットサンプリングは非対称な順序統計量を含むものであり、対称的な中央値（三つからなる中央値）や四等分点の選択は最適でない。
• Yaroslavskiyのアルゴリズムのパフォーマンス優位性は、主に比較回数ではなく、メモリアクセスパターンの低減に起因する。
• 本分析により、現代のハードウェアトレンドが、メモリ階層操作を最小限に抑えるアルゴリズムを好む傾向にあることが確認され、Yaroslavskiyのアルゴリズムが現在のシステムで成功を収める理由が説明された。