[論文レビュー] On Approximating Frequency Moments of Data Streams with Skewed Projections

Ping Li|ArXiv.org|Feb 6, 2008

Data Management and Algorithms参考文献 24被引用数 4

ひとこと要約

本稿では、特に α ≈ 1 の場合に有効な、データストリームにおける周波数モーメントの近似のための歪んだ安定的ランダムプロジェクションを導入する。歪んだ安定分布と新しい統計的推定器を活用することで、先行する対称的安定的プロジェクション手法と比較して、著しく低いサンプル複雑性を達成する—α → 1 のとき、漸近的分散において無限に近い改善が達成される。

ABSTRACT

We propose skewed stable random projections for approximating the pth frequency moments of dynamic data streams (01) improves previous methods based on (symmetric) stable random projections. Our proposed method is applicable to data streams that are (a) insertion only (the cash-register model); or (b) always non-negative (the strict Turnstile model), or (c) eventually non-negative at check points. This is only a minor restriction for practical applications. Our method works particularly well when p = 1+/- Δand Δis small, which is a practically important scenario. For example, Δmay be the decay rate or interest rate, which are usually small. Of course, when Δ= 0, one can compute the 1th frequent moment (i.e., the sum) essentially error-free using a simple couter. Our method may be viewed as a ``genearlized counter'' in that it can count the total value in the future, taking in account of the effect of decaying or interest accruement. In a summary, our contributions are two-fold. (A) This is the first propsal of skewed stable random projections. (B) Based on first principle, we develop various statistical estimators for skewed stable distributions, including their variances and error (tail) probability bounds, and consequently the sample complexity bounds.

研究の動機と目的

• 周波数モーメントを α = 1 の近傍で推定する際の、対称的安定的ランダムプロジェクションの非効率性を是正すること。
• 歪んだまたは衰退する値を有する動的データストリームに対して、一般化されたカウンターモデルを構築すること。
• 特に α ≈ 1 の場合に適した、歪んだ安定的分布の統計的に頑健な推定器を設計すること。
• 周波数モーメント推定のための、よりタイトなサンプル複雑性の境界と明示的な尾部境界を確立すること。

提案手法

• 値がクエリ時において非負であるデータストリームに特化した、対称的安定的プロジェクションの一般化として、歪んだ安定的ランダムプロジェクションを導入する。
• 歪んだ安定的分布のモーメントの理論的公式を導出し、完全に歪んだ安定的分布が無限次の負のモーメントを持つことを発見する。
• 推定分散を最小化する幾何平均推定器を提案し、漸近的分散が α < 1 の場合に (1−α²)π²/(6kF²(α))、α > 1 の場合に (5−α)(α−1)π²/(6kF²(α)) に比例することを示す。
• α < 1 の場合に適した調和平均推定器を導入し、より優れた尾部挙動と無限次のモーメントを実現する。
• α = 0.5、α = 0+、α = 2 の場合の明示的最尤推定器（MLE）を導出し、完全な分散および尾部境界の分析を実施する。
• 特殊値でMLEに還元される最適なパワー推定器を提案し、α < 1 のすべての値に対して指数的尾部境界を可能にする。

実験結果

リサーチクエスチョン

• RQ1 α ≈ 1 の場合に、歪んだ安定的ランダムプロジェクションは、対称的安定的プロジェクションよりもサンプル複雑性において優れているか？
• RQ2 特に α → 1 の臨界的領域において、歪んだ安定的分布に最適な統計的推定器は何か？
• RQ3 歪んだ安定的プロジェクションに基づく推定器の漸近的分散は、α ≈ 1 の周囲で、対称的プロジェクションのそれと比較してどのように異なるか？
• RQ4 歪んだ安定的プロジェクション下での推定器に対して、明示的な尾部境界を導出できるか？ これにより、高確率での精度保証が可能か？
• RQ5 推定分散を最小化するために最適なプロジェクション分布（例：完全に歪んだ）は何か？

主な発見

• サンプル複雑性は k = G / (ǫ² log(2/δ)) にまで低減され、α = 1 ± ∆ → 1 のとき G = ǫ² / log(1+ǫ) − 2√∆log(1+ǫ) + o(√∆) となる。これにより、対称的プロジェクションと比較して、漸近的分散においてほぼ無限の改善が達成される。
• 幾何平均推定器は、完全に歪んだ安定的分布において最小分散を達成し、漸近的分散は α < 1 の場合に (1−α²)π²/(6kF²(α)) に比例する。
• α < 1 の場合、調和平均推定器は優れた尾部挙動と無限次のモーメントを実現し、より強い集中境界を可能にする。
• α = 0.5 の場合に明示的なMLEが導出され、完全な分散および尾部境界の分析が行われ、従来の手法よりも優れた性能を示す。
• 最適なパワー推定器は、α = 0.5、0+、2 でのMLEを一般化し、すべての α < 1 に対して指数的尾部境界を可能にする。
• 理論的分析により、積率母関数 g(λ; α) が凸であり、最適な λ∗ < 0 であることが確認され、推定器の解が一意に存在することが保証される。