[論文レビュー] Insertion Sort is O(n log n)

Michael A. Bender, Martı́n Farach-Colton+1 more|ArXiv.org|Jul 1, 2004

Algorithms and Data Compression参考文献 4被引用数 5

ひとこと要約

この論文は、挿入のための時間削減を目的として、要素間に均等に間隔をあけることで挿入時間を短縮する、挿入ソートの変種であるギャップ付き挿入ソート（別名、ライブラリーソート）を紹介する。ランダムな入力順列とスプライシング係数を用いることで、期待時間計算量がO(n log n)となり、従来のO(n²)挿入ソートに比べて顕著に向上する。

ABSTRACT

Traditional Insertion Sort runs in O(n^2) time because each insertion takes O(n) time. When people run Insertion Sort in the physical world, they leave gaps between items to accelerate insertions. Gaps help in computers as well. This paper shows that Gapped Insertion Sort has insertion times of O(log n) with high probability, yielding a total running time of O(n log n) with high probability.

研究の動機と目的

• 従来の挿入ソートが挿入時の要素のシフトにコストを要するためO(n²)時間で動作するという非効率性を是正すること。
• ソート済み配列内の要素間にギャップを維持することで、理論的および実用的に挿入コストを低減できるかを検討すること。
• ランダムな入力順列下でのギャップベースの挿入アルゴリズムの期待および高確率性能を分析すること。
• ギャップを戦略的に維持することで、挿入時間が高確率でO(log n)に低下することを形式的かつ証明すること。
• 期待値のみに依存する先行研究に比べ、高確率の境界を用いた、ギャップベースのソーティングの簡潔かつ厳密な分析を提供すること。

提案手法

• アルゴリズムは、n 個の要素を格納するため、(1+ε)n の大きさを持つより大きな配列 S を使用し、要素間に均等にギャップを配置することで、挿入を高速化する。
• 挿入はラウンド単位で実行される：各ラウンドで挿入済み要素数が2倍に増加し、2+2εのスプライシング係数を用いて再バランスされる。
• 各ラウンドでは、事前に挿入済みの要素（サポート要素）に対して二分探索を用い、挿入位置をO(log m)時間で特定する。
• 挿入処理では、近隣のギャップに達するまで要素をシフトするのみであり、高確率でシフトされる要素数はO(log n)に制限される。
• 長期間にわたる要素の挿入が連続するようなシーケンスが生じる確率を低く抑えるために、二項係数とスターリングの近似を用いた確率的境界を分析に用いる。
• 非重複するサイズ (2+ε)c log m のセグメント全体にギャップが存在する確率を高めるために、ユニオンバウンドを適用する。

実験結果

リサーチクエスチョン

• RQ1 ソート済み配列内で要素間に均等にギャップを維持することで、挿入の期待コストを低減できるか？
• RQ2 スプライシング係数を用いてギャップを維持する場合、挿入時のシフト対象となる要素の期待数はどの程度か？
• RQ3 ギャップを適切に維持することで、挿入コストがO(n)から高確率でO(log n)に低下するのはどのような条件下か？
• RQ4 ギャップサイズ（εによって制御される）の選択が、空間オーバーヘッドと挿入時間のトレードオフにどのように影響するか？
• RQ5 期待値の境界を超えて、ギャップベースの挿入ソートの挿入コストに対して高確率の解析が可能か？

主な発見

• 最初のO(√n)個の要素の挿入コストは、標準的な挿入ソートと同様に最悪ケースでO(n)である。
• 倍加ラウンドのアムortアイズド解析により、すべての再バランス操作の総コストはO(n)である。
• 各挿入の探索コストは、挿入済み要素数mを用いてO(log m)である。これは、サポート要素に対する二分探索によるものである。
• m = Ω(√n)の場合、(2+ε)c log m 要素のセグメント内にギャップが存在するため、1回の挿入あたりの移動要素数は高確率でO(log m)である。
• (2+ε)c log m 要素のセグメント内に(1+ε)c log m 個を超える挿入要素が存在する確率は多項式的に小さいため、ギャップが高確率で存在することが保証される。
• ライブラリーソート全体の実行時間は、O(n)の再バランスコスト、O(n log n)の探索コスト、および高確率でO(n log n)の挿入コストを組み合わせることで、高確率でO(n log n)である。