[論文レビュー] Median Filtering is Equivalent to Sorting

Jukka Suomela|arXiv (Cornell University)|Jun 6, 2014

Algorithms and Data Compression参考文献 15被引用数 8

ひとこと要約

この論文は、中央値フィルタリングが計算的にピecewiseソーティングと同等であることを確立している。新しいアルゴリズムは、スライディングウィンドウ中央値を計算するために、まずサイズ$k$のブロックをソーティングし、その後で線形時間の後処理を適用する。主な洞察は、時間反転された削除とKnuthのダンシングリンクを用いて、ウィンドウの更新を効率的にシミュレートする2つのソート済みの双方向リスト$L_A$と$L_B$を維持することにあり、その結果、ヒープベースの手法と同等の性能を達成し、部分的にソートされたデータでは優れた結果を示す。

ABSTRACT

This work shows that the following problems are equivalent, both in theory and in practice: - median filtering: given an $n$-element vector, compute the sliding window median with window size $k$, - piecewise sorting: given an $n$-element vector, divide it in $n/k$ blocks of length $k$ and sort each block. By prior work, median filtering is known to be at least as hard as piecewise sorting: with a single median filter operation we can sort $Θ(n/k)$ blocks of length $Θ(k)$. The present work shows that median filtering is also as easy as piecewise sorting: we can do median filtering with one piecewise sorting operation and linear-time postprocessing. In particular, median filtering can directly benefit from the vast literature on sorting algorithms---for example, adaptive sorting algorithms imply adaptive median filtering algorithms. The reduction is very efficient in practice---for random inputs the performance of the new sorting-based algorithm is on a par with the fastest heap-based algorithms, and for benign data distributions it typically outperforms prior algorithms. The key technical idea is that we can represent the sliding window with a pair of sorted doubly-linked lists: we delete items from one list and add items to the other list. Deletions are easy; additions can be done efficiently if we reverse the time twice: First we construct the full list and delete the items in the reverse order. Then we undo each deletion with Knuth's dancing links technique.

研究の動機と目的

• 中央値フィルタリングとピecewiseソーティングの理論的かつ実用的同等性を確立すること。
• 既存のソーティングアルゴリズムを活用して性能を向上させた新しい中央値フィルタリングアルゴリズムを開発すること。
• ソーティングに基づく中央値フィルタリングが、従来のヒープベースのアプローチと同等またはそれを上回る効率性を達成できることを示すこと。
• 適応的かつキャッシュ効率の良いソーティング技術が中央値フィルタリングの性能向上に寄与することを示すこと。
• さまざまなデータ分布およびハードウェアプラットフォームにおいて、アルゴリズムの性能を検証すること。

提案手法

• アルゴリズムは入力ベクトルを$n/k$個のサイズ$k$のブロックに分割し、それぞれを任意の比較ベースのソーティングアルゴリズムでソートする。
• スライディングウィンドウを表すために、2つのソート済みの双方向リスト$L_A$と$L_B$を維持する。$L_A$は現在のウィンドウを保持し、$L_B$は新しい要素を蓄積する。
• $L_B$に新しい要素を効率的に挿入するため、時間の逆転を応用する：まず新しい要素の完全なリストを構築し、その後で逆順に削除する。
• 削除は標準的な双方向リスト操作で実行され、挿入はKnuthのダンシングリンク技法を用いて削除の逆操作としてエミュレートされる。
• 2つのポインタを用いたマージによって、2つのソート済みリストを線形時間でマージし、中央値を計算する。この際、中央要素へのポインタを維持する。
• 初期ソーティングフェーズの後、$O(n)$時間で出力ベクトルが計算され、全体の時間計算量は$O(n\log k)$となる。

実験結果

リサーチクエスチョン

• RQ1 理論的および実用的観点から、中央値フィルタリングはピecewiseソーティングと計算的に同等であるか？
• RQ2 ソーティングベースのアプローチは、ヒープベースの中央値フィルタリングアルゴリズムと同等またはそれ以上の性能を達成できるか？
• RQ3 ランダム入力と比較して、部分的にソートされたまたは構造的入力では、提案されたアルゴリズムはどのように性能を発揮するか？
• RQ4 既存の適応的およびキャッシュ最適化ソーティングアルゴリズムは、中央値フィルタリングの性能向上に直接利用可能か？
• RQ5 データの局所性およびメモリアクセスパターンが、中央値フィルタリングアルゴリズムの効率性に与える影響は何か？

主な発見

• 提案されたソーティングベースの中央値フィルタリングアルゴリズムは、ヒープベースの手法と同等の$O(n\log k)$最悪計算量を達成するが、実際の実行ではしばしば優れている。
• ランダム入力では、新しいアルゴリズムは最も高速なヒープベース実装と同等の性能を示す。
• 部分的にソートされたまたは構造的入力では、ソーティングベースのアルゴリズムがヒープベースの手法を顕著に上回り、特にキャッシュ効率の高さに起因する。
• アルゴリズムは適応的ソーティング（例：timsortなど）を活用でき、実世界のデータ分布において優れた性能を発揮する。
• 4,620回のベンチマーク実験の結果、SortMedianは常にHeapMedianを上回り、特に大きなウィンドウサイズでは顕著であった。
• 時間反転削除とダンシングリンクの組み合わせにより、ソート済みリストへの効率的挿入が可能となり、アルゴリズムは単純かつ非常に高性能である。