[論文レビュー] Polynomial Estimators for High Frequency Moments

Šumit Ganguly|arXiv (Cornell University)|Apr 23, 2011

Advanced Database Systems and Queries参考文献 3被引用数 19

ひとこと要約

本稿では、p > 2 であるデータストリームのp次の周波数モーメント Fp を推定するための新規ストリーミングアルゴリズムを提示する。空間計算量は O(n^{1−2/p}ǫ⁻² log n ⋅ p² ⋅ E(p,n) / min(log n, ǫ^{4/p−2})) ビットであり、E(p,n) = (1−2/p)⁻¹(1−n⁻⁴⁽¹⁻²/ᵖ⁾) である。この手法は、経験的推定値に適用された滑らかな関数の低次のテイラー多項式近似を用いることで、従来の手法と比較して空間使用量を Ω(ǫ⁻⁴/ᵖ min(log n, ǫ⁴/ᵖ⁻²)) 倍改善し、更新時間は O(log n) を維持する。

ABSTRACT

We present an algorithm for computing $F_p$, the $p$th moment of an $n$-dimensional frequency vector of a data stream, for $2 < p < \log (n) $, to within $1\pm ε$ factors, $ε\in [n^{-1/p},1]$ with high constant probability. Let $m$ be the number of stream records and $M$ be the largest magnitude of a stream update. The algorithm uses space in bits $$ O(p^2ε^{-2}n^{1-2/p}E(p,n) \log (n) \log (nmM)/\min(\log (n),ε^{4/p-2}))$$ where, $E(p,n) = (1-2/p)^{-1}(1-n^{-4(1-2/p})$. Here $E(p,n)$ is $ O(1)$ for $p = 2+Ω(1)$ and $ O(\log n)$ for $p = 2 + O(1/\log (n)$. This improves upon the space required by current algorithms \cite{iw:stoc05,bgks:soda06,ako:arxiv10,bo:arxiv10} by a factor of at least $Ω(ε^{-4/p} \min(\log (n), ε^{4/p-2}))$. The update time is $O(\log (n))$. We use a new technique for designing estimators for functions of the form $ψ(\expect{X})$, where, $X$ is a random variable and $ψ$ is a smooth function, based on a low-degree Taylor polynomial expansion of $ψ(\expect{X})$ around an estimate of $\expect{X}$.

研究の動機と目的

• p > 2 の場合に、周波数ベクトルのp次のモーメント Fp を推定するための、空間計算量が部分線形であるストリーミングアルゴリズムを設計すること。
• 特に 2 < p < log n の場合に、Fp推定における既存の空間計算量の上限を改善すること。
• 確率が 0.8 以上である高確率での ǫ-近似を、最小限の空間計算量と効率的な更新時間で達成すること。
• 経験的モーメントに滑らかな関数のテイラー多項式展開を適用する新しい推定技術を導入すること。

提案手法

• ψ(E[X]) の低次のテイラー多項式展開を、E[X] の推定値の周囲で行う新しい推定器を提案する。ここで ψ は滑らかな関数である。
• ペアワイズ独立なハッシュ関数とラダマッチャー・スケッチを用いた階層的スケッチ構造を用いて、周波数モーメントを推定する。
• 高周波数の要素を効率的に抽出するために、離散化されたべき乗則分布 fY(y) ∝ 1/y³ を適用する。これにより、空間効率が向上する。
• 重い要素と軽い要素の寄与を分離するために、修正されたレベルマッピングおよびしきい値戦略を採用する。
• 空間計算量の主要因として、関数 E(p,n) = (1−2/p)⁻¹(1−n⁻⁴⁽¹⁻2/ᵖ⁾) を導入する。p = 2+Ω(1) の場合、E(p,n) は O(1) であり、p = 2+O(1/log n) の場合、O(log n) である。
• 推定誤差を制限するために、チェビシェフの不等式と全分散の法則による分散分解を用いる。

実験結果

リサーチクエスチョン

• RQ1 多項式ベースの推定器は、データストリームにおける高周波数モーメント推定のための空間計算量を低減できるか？
• RQ2 テイラー多項式近似を用いることで、従来のサンプリングベースの手法と比較して、推定精度と空間効率がどのように向上するか？
• RQ3 2 < p < log n の場合に、Fp 推定における空間計算量、更新時間、近似誤差の最適なトレードオフは何か？
• RQ4 既存の関数 g(p,n) と比較して、新しい推定器 E(p,n) はどれほど空間計算量を削減できるか？
• RQ5 従来の手法よりも優れた空間計算量を達成しつつ、O(log n) の更新時間の維持は可能か？

主な発見

• アルゴリズムは、確率が 0.8 以上で Fp の ǫ-近似を達成し、空間計算量は O(n^{1−2/p}ǫ⁻² log n ⋅ p² ⋅ E(p,n) / min(log n, ǫ^{4/p−2})) ビットである。
• 従来のアルゴリズムと比較して、空間計算量が Ω(ǫ⁻⁴/ᵖ min(log n, ǫ⁴/ᵖ⁻²)) 倍改善されており、少なくとも Ω(ǫ⁻⁴/ᵖ) である。
• p = 2 + Ω(1) の場合、E(p,n) は O(1) であり、最適な空間計算量が達成される。p = 2 + O(1/log n) の場合、E(p,n) は O(log n) である。
• 更新時間は O(log n) であり、主に s = O(log n) 個のハッシュ評価に依存する。
• 解析により、推定器の分散が (ǫFp/7.5)² 以下であることが示され、チェビシェフの不等式により集中性が保証される。
• このアルゴリズムは、Fp 推定における既知の下界 Ω(ǫ⁻² + n^{1−2/p}ǫ⁻²/ᵖ + n^{1−2/p} log n) ビットと一致するため、最適性を有する。