[論文レビュー] Why Is Dual-Pivot Quicksort Fast?

Sebastian Wild|arXiv (Cornell University)|Nov 3, 2015

Algorithms and Data Compression参考文献 15被引用数 4

ひとこと要約

この論文は、Yaroslavskiyの二ピボットクイックソートが実際の応用でクラシッククイックソートを上回る理由を、分割処理中の配列アクセス総数（「スキャンされた要素数」）をカウントする新しいコストモデルに基づいて説明している。このモデルにより、二ピボットクイックソートはクラシッククイックソートに比べてデータ移動を12%削減することが示され、これは現代のプロセッサとメモリの性能ギャップが拡大する環境において、より効率的なメモリアクセスパターンを実現しているためである。Java 7における観察された10%の高速化とも整合する。

ABSTRACT

I discuss the new dual-pivot Quicksort that is nowadays used to sort arrays of primitive types in Java. I sketch theoretical analyses of this algorithm that offer a possible, and in my opinion plausible, explanation why (a) dual-pivot Quicksort is faster than the previously used (classic) Quicksort and (b) why this improvement was not already found much earlier.

研究の動機と目的

• 50年以上にわたるクイックソート研究の歴史にもかかわらず、Yaroslavskiyの二ピボットクイックソートが実用的に優れている理由を説明すること。
• 同様の最適化が、長きにわたるクイックソート研究の歴史にもかかわらず、なぜ長らく発見されなかったのかを解明すること。
• アルゴリズムの実行時性能をより的確に反映するため、メモリアクセスパターンに焦点を当てた新しいアルゴリズムコストモデルを提案すること。
• 性能向上の主な要因が比較回数の減少ではなく、データ移動の削減にあることを示すこと。

提案手法

• インデックス変数による配列アクセスを、読み取りでも書き込みでも「スキャン」として1回ずつカウントする、新しいコストモデルを導入。
• このモデルのもとでクラシッククイックソートと二ピボットクイックソートを分析し、分割処理の各ステップで二ピボットクイックソートは平均して配列要素の4/3をスキャンするのに対し、クラシッククイックソートは1つであることを示した。
• スキャンされた要素数の漸近的上限を導出：クラシッククイックソートでは1.5697n ln n、二ピボットクイックソートでは1.4035n ln n である。
• スキャンされた要素数という指標を用いて、12%のデータ移動削減を説明し、これはJava 7における10%の高速化と相関している。
• 新しいモデルのもとで古典的クイックソートの分析を再検討し、従来の理論的モデルが現代プロセッサにおけるメモリウォール効果を捉えていなかったことを示した。
• モデルをYaroslavskiyの分割アルゴリズムに適用し、複数のインデックス走査（k, g, ℓ）とそれらの重複する範囲を考慮した。

実験結果

リサーチクエスチョン

• RQ1 比較回数がほぼ同等であるにもかかわらず、なぜ二ピボットクイックソートが実用的にクラシッククイックソートを上回るのか？
• RQ2 50年以上にわたるクイックソート研究の歴史にもかかわらず、なぜこのような改善が長らく発見されなかったのか？
• RQ3 比較回数ではなく、メモリアクセスパターンが、実世界のソーティングアルゴリズムの性能にどの程度影響を与えるのか？
• RQ4 スキャンされた要素数に基づく新しいコストモデルは、メモリウォール効果が顕著な現代のハードウェアにおいて、性能をよりよく予測できるか？

主な発見

• 二ピボットクイックソートは、スキャンされた要素数をクラシッククイックソートの1.5697n ln n から1.4035n ln n にまで削減し、12%の改善を達成した。
• スキャンされた要素数の削減は、Java 7におけるJava 6のクラシッククイックソートと比較して観察された10%の高速化と相関している。
• 性能向上の主な要因は比較回数の減少ではなく、データ移動の削減である。新しいモデルは比較回数よりもメモリアクセスを重視している。
• 古典的な比較ベースのモデルでは、現代プロセッサにおけるメモリウォール効果を捉えていないため、性能差を説明できなかった。
• スキャンされた要素数モデルは、連続的な配列スキャンに依存するアルゴリズムの実世界性能をより正確に予測する。
• このモデルは、なぜ二ピボットクイックソートが長らく見過ごされてきたのかを説明している：メモリ帯域幅がボトルネックでないシステムでは、コスト効率が低かったためである。