[論文レビュー] A Lower Bound for Estimating High Moments of a Data Stream

Šumit Ganguly|arXiv (Cornell University)|Dec 31, 2011

Data Stream Mining Techniques参考文献 5被引用数 12

ひとこと要約

本稿は、データストリームにおけるp次のモーメントを推定するための新たな下界を確立し、任意のアルゴリズムが高確率で(1±ǫ)-近似を達成するには、p > 2およびǫ ≥ Ω(pn⁻¹ᐟᵖ)の条件下でΩ(p²n¹⁻²ᵖǫ⁻²/log n)ビットの記憶領域が必要であることを示している。この結果は、t人による集合素性問題（t-party set disjointness problem）への還元を用いて、pに依存する要因を組み込むことで、先行の境界を改善したものであり、複雑さがpに関して2次的に増加することを示しており、これは以前の解析では捉えられていなかった。

ABSTRACT

We show an improved lower bound for the Fp estimation problem in a data stream setting for p>2. A data stream is a sequence of items from the domain [n] with possible repetitions. The frequency vector x is an n-dimensional non-negative integer vector x such that x(i) is the number of occurrences of i in the sequence. Given an accuracy parameter Omega(n^{-1/p}) < ε< 1, the problem of estimating Fp is to estimate orm{x}_p^p = \sum_{i \in [n]} \abs{x(i)}^p correctly to within a relative accuracy of 1\pm εwith high constant probability in an online fashion and using as little space as possible. The current space lower bound for this problem is Omega(n^{1-2/p} ε^{-2/p}+ n^{1-2/p}ε^{-4/p}/ \log^{O(1)}(n)+ (ε^{-2} + \log (n))). The first term in the lower bound expression was proved in \cite{B-YJKS:stoc02,cks:ccc03}, the second in \cite{wz:arxiv11} and the third in \cite{wood:soda04}. In this note, we show an Omega(p^2 n^{1-2/p} ε^{-2}/\log (n)) bits space bound, for Omega(pn^{-1/p}) \le ε\le 1/10.

研究の動機と目的

• 相対誤差ǫにおけるデータストリームにおけるp次のモーメント（∥x∥ₚᵖ）の空間計算量の tighter な下界を確立すること。
• 特にp > 2の場合に顕著なp依存性を組み込むことで、既存の下界におけるギャップを埋めること。
• Fp推定の空間計算量におけるpの役割を十分に反映していない既存の境界を改善すること。
• 空間要件がpに関して2次的に増加することを示すこと、これは以前に形式的に確立されていなかった。

提案手法

• 1人あたりのランダム化通信プロトコルを用いて、t人による集合素性問題（t-DISJ）をFp推定問題に還元する。
• F₀（異なる要素の数）とFₚ（p次のモーメント）の両方を(1±ǫ/10)の精度で推定する2つのスケッチ構造を用いる。
• t個のバイナリーベクトルx₁, ..., xₜからx = x₁ + ⋯ + xₜを構築し、3つのケース（集合が素性、共通要素がiにない、共通要素がiにある）におけるFₚの挙動を分析する。
• 各座標iにn¹ᐟᵖを加える摂動を施し、3つのケース間でのFₚ推定値の差を強調する。
• テイラー展開と不等式を用いて、特に頻度がtの重い要素（heavy item）がインデックスiに存在する場合のFₚの変化を評価する。
• 和集合の不等式と集中度の議論を用いて、F₀およびFₚの推定が高確率で正しく保たれることを保証し、共通要素が存在するケースを信頼性高く検出可能であることを実現する。

実験結果

リサーチクエスチョン

• RQ1 相対誤差ǫにおけるデータストリームのp次のモーメント推定の最適な空間計算量は何か、p > 2の場合に限って。
• RQ2 空間計算量はパラメータpにどのように依存するか、そしてこの依存性を下界において形式的に定量化できるか。
• RQ3 pに関する2次的依存性を捉えることで、既存のFp推定の下界を改善できるか。
• RQ4 通信計算量の下界は、ストリーミングモデルにおけるFp推定のより強い空間下界を示唆するか。

主な発見

• 本稿は、相対誤差ǫにおけるデータストリームのp次のモーメント推定に対して、Ω(p²n¹⁻²ᵖǫ⁻²/log n)ビットの新たな下界を確立した。
• この下界は、pに2次的に依存する要因を組み込むことで、以前の最良の境界を改善したものであり、これまでは欠落していた。
• この境界は、ǫ ≥ max(80p/n¹ᐟᵖ, 3/√n)および2 < p < n¹ᐟᵖ/2の範囲で成立し、実用的なp値の広い範囲をカバーする。
• この結果は、t人による集合素性問題への還元により導出されており、必要な精度を達成するFp推定器は、少なくともこの程度の記憶領域を必要とすることが示された。
• 解析により、空間計算量がpに関して2次的に増加することが判明し、pが大きくなるにつれて高次のモーメントを推定することが著しく高コストになることが示された。
• この下界は対数的要因の範囲でタイトであり、pに依存しないか、p依存性が弱い既存の境界を改善している。