[論文レビュー] Nearly Optimal Distinct Elements and Heavy Hitters on Sliding Windows

Vladimir Braverman, Elena Grigorescu+3 more|arXiv (Cornell University)|Jan 1, 2018

Algorithms and Data Compression参考文献 4被引用数 12

ひとこと要約

この論文は、最近n個の要素のみを考慮するスライディングウィンドウモデルにおいて、重複要素の推定およびℓp-ヘビーヒッパーの特定のためのほぼ最適なアルゴリズムを提示する。新しい指数的ヒストグラムの変種である「合成可能ヒストグラム」を導入し、主要なアイテムの頻度と識別子を効率的に追跡可能にし、両問題の情報理論的下界にログファクター以内の空間計算量を達成する。

ABSTRACT

We study the distinct elements and l_p-heavy hitters problems in the sliding window model, where only the most recent n elements in the data stream form the underlying set. We first introduce the composable histogram, a simple twist on the exponential (Datar et al., SODA 2002) and smooth histograms (Braverman and Ostrovsky, FOCS 2007) that may be of independent interest. We then show that the composable histogram{} along with a careful combination of existing techniques to track either the identity or frequency of a few specific items suffices to obtain algorithms for both distinct elements and l_p-heavy hitters that are nearly optimal in both n and epsilon. Applying our new composable histogram framework, we provide an algorithm that outputs a (1+epsilon)-approximation to the number of distinct elements in the sliding window model and uses O{1/(epsilon^2) log n log (1/epsilon)log log n+ (1/epsilon) log^2 n} bits of space. For l_p-heavy hitters, we provide an algorithm using space O{(1/epsilon^p) log^2 n (log^2 log n+log 1/epsilon)} for 0<p <=2, improving upon the best-known algorithm for l_2-heavy hitters (Braverman et al., COCOON 2014), which has space complexity O{1/epsilon^4 log^3 n}. We also show complementing nearly optimal lower bounds of Omega ((1/epsilon) log^2 n+(1/epsilon^2) log n) for distinct elements and Omega ((1/epsilon^p) log^2 n) for l_p-heavy hitters, both tight up to O{log log n} and O{log 1/epsilon} factors.

研究の動機と目的

• スライディングウィンドウモデルにおいて、最近n個の要素のみが有効であるという条件下で、重複要素の推定とヘビーヒッパーの特定という根本的な問題に取り組むこと。
• 重複要素に対して(1+ǫ)-近似、ℓp-ヘビーヒッパーに対して(ǫ, φ)-近似を提供する空間効率の良いアルゴリズムを開発すること。
• 既存の上界と既知の下界のギャップを埋めるために、空間効率を向上させる新しいデータ構造「合成可能ヒストグラム」を設計すること。
• 両問題に対してほぼタイトな下界を確立し、提案されたアルゴリズムがログファクターの範囲内で最適であることを示すこと。

提案手法

• スライディングウィンドウにわたるスケッチの効率的合成を可能にする、変更された指数的ヒストグラムである「合成可能ヒストグラム」を導入する。
• 既存のストリーミング技術を活用して、少数の候補アイテムの識別子と頻度を追跡し、空間オーバーヘッドを低減する。
• 合成可能ヒストグラムを周波数推定およびヘビーヒッパー検出アルゴリズムと組み合わせ、スライディングウィンドウ制約下でも正確性を維持する。
• 通信複雑性問題（例：GapHamming、AugmentedIndex）の再帰的埋め込みを用いて下界を証明する。
• 成功確率を2/3から1−δに高めるために、空間計算量にログファクターのみの増加で十分なアンプリフィケーション技術を用いる。
• 多項式対数個のインスタンスにわたる慎重な和集合バウンド解析を適用し、先行研究における誤りを是正し、空間計算量の正しさを保証する。

実験結果

リサーチクエスチョン

• RQ1 スライディングウィンドウモデルにおいて、重複要素推定のためのほぼ最適な空間計算量を達成できるか？
• RQ2 スライディングウィンドウモデルにおいて、従来の空間バウンドを改善する効率的なℓp-ヘビーヒッパーのアルゴリズムを設計できるか？
• RQ3 合成可能ヒストグラムフレームワークは、既存の指数的ヒストグラムおよびスムーズヒストグラムの手法を統合・改善するのに十分な汎用性と強力さを持つか？
• RQ4 スライディングウィンドウモデルにおける重複要素およびℓp-ヘビーヒッパーの最もタイトな下界は何か？
• RQ5 特にℓ2-ヘビーヒッパーに関して、文献における誤った空間計算量の主張を是正し、改善できるか？

主な発見

• 重複要素推定のためのアルゴリズムは、空間計算量O(1/ǫ² log n log(1/ǫ) log log n + 1/ǫ log² n)を達成し、log log nおよびlog(1/ǫ)要因の範囲内でほぼ最適である。
• 0 < p ≤ 2のℓp-ヘビーヒッパーに対しては、O(1/ǫ^p log³ n (log log n + log(1/ǫ)))ビットを用い、ℓ2-ヘビーヒッパーに関しては従来のO(1/ǫ⁴ log³ n)のバウンドを改善する。
• 重複要素に対してΩ(1/ǫ log² n + 1/ǫ² log n)の下界を確立し、アルゴリズムがǫおよびnの両方においてほぼ最適であることを示した。
• ℓp-ヘビーヒッパーに対してはΩ(1/ǫ^p log² n)の下界を証明し、上界とlog(1/ǫ)要因の範囲で一致する。
• 従来のℓ2-ヘビーヒッパーの解析における誤りを是正し、誤ったO(1/ǫ² log² n (log² log n + log(1/ǫ)))のバウンドを、正しいO(1/ǫ² log³ n (log log n + log(1/ǫ)))の複雑さに置き換えた。
• 合成可能ヒストグラムフレームワークは、本研究を越えて独立した価値を持つ汎用的で強力なツールであることが示された。