[論文レビュー] Sliding Window Algorithms for k-Clustering Problems

Michele Borassi, Alessandro Epasto+3 more|arXiv (Cornell University)|Jun 10, 2020

Data Management and Algorithms参考文献 49被引用数 10

ひとこと要約

本稿では、最近のデータに対してのみ、O(k polylog w) のメモリと各点あたりの多項対数時間の更新時間で、最適解の定数倍近似を維持する、k-meansおよびk-medianクラスタリングの効率的なスライディングウィンドウアルゴリズムを提示する。この手法は、動的スケッチと適応的サンプリング、およびウィンドウ化された計算を組み合わせることで、最新のデータに対して高い効率性と正確性を達成し、従来の手法に比べてメモリと速度の面で優れており、ほぼ最適なクラスタリングコストを維持する。

ABSTRACT

The sliding window model of computation captures scenarios in which data is arriving continuously, but only the latest $w$ elements should be used for analysis. The goal is to design algorithms that update the solution efficiently with each arrival rather than recomputing it from scratch. In this work, we focus on $k$-clustering problems such as $k$-means and $k$-median. In this setting, we provide simple and practical algorithms that offer stronger performance guarantees than previous results. Empirically, we show that our methods store only a small fraction of the data, are orders of magnitude faster, and find solutions with costs only slightly higher than those returned by algorithms with access to the full dataset.

研究の動機と目的

• スライディングウィンドウモデルにおいて、最近のw個のデータポイントのみを考慮する、空間的・時間的効率の高いkクラスタリングアルゴリズムの設計。
• GDPRのようなデータの新鮮さとプライバシー規制に基づく、時間的最近性を組み込むことで、従来のストリーミングモデルの限界を克服すること。
• 特に空間と更新時間の複雑度の面で、先行するスライディングウィンドウクラスタリングアルゴリズムよりも強い理論的保証を提供すること。
• ストレージと計算のオーバーヘッドを最小限に抑えることで、高速度のデータストリームにおけるクラスタリングの実用的導入を可能にすること。
• 各新しいデータポイントを段階的に処理する中で、最適kクラスタリングコストの定数倍近似を維持すること。

提案手法

• 最適解のコスト見積もりに基づく推定コストの境界を用いた適応的サンプリングにより、最近のw個のデータポイントの動的スケッチを維持し、再計算を回避する。
• 各レベルが推定最適コストの異なるスケールに対応する、複数のサンプリング確率を備えた階層的スケッチ戦略を採用する。
• 直径と最大コストMの走査的推定値を維持するために、既知のスライディングウィンドウ直径近似アルゴリズムを用いて、サンプリングしきい値を動的に調整する。
• 二重インスタンスメカニズムを採用：2つの独立したアルゴリズムインスタンスを維持し、それぞれがサイズwのウィンドウを処理するが、古いインスタンスをクエリ応答に使用することで、完全なウィンドウカバレッジを保証する。
• 最適コストの上界が上昇した際に、上位レベルのスケッチを再利用することで、後方互換性を確保し、再計算を削減する。
• 削除処理と動的コスト推定に対応するための修正を加えた、ウィンドウ化された形でのMeyersonアルゴリズムをストリーミングクラスタリングに適用する。

実験結果

リサーチクエスチョン

• RQ1 wに線形でない（サブ線形）空間と多項対数時間の更新時間で、最適解の定数倍近似を達成するスライディングウィンドウアルゴリズムを設計できるか？
• RQ2 データポイントが継続的に追加され、古いポイントが破棄される動的ウィンドウにおいて、正確なクラスタリングスケッチをどのように維持できるか？
• RQ3 スライディングウィンドウモデルにおいて、k-medianおよびk-meansの定数倍近似を維持するために必要な最小の空間的・時間的複雑度は何か？
• RQ4 すべてのスケッチを再計算せずに、コストの上界Mを増加させる挑戦を効率的に処理する方法は何か？
• RQ5 完全なデータ再処理と比較して、ストレージと更新時間の削減をどの程度達成できるか？

主な発見

• 提案されたアルゴリズムは、スライディングウィンドウモデルにおいてk-meansおよびk-medianクラスタリングの両方で、オフラインクラスタリングの最高水準に達する近似比を達成する。
• アルゴリズムはO(k polylog w)のメモリと、各データポイントあたりの多項対数時間の更新時間で動作し、従来の手法がkの立方根に依存していたのと比べて顕著に改善されている。
• 実験的評価では、アルゴリズムがデータのわずかな部分しか格納せず、完全再計算手法に比べて数個のオーダーも速く動作し、完全データセットアルゴリズムの結果と比較してコストがわずかに高いにとどまっていることが示された。
• 既知の直径推定アルゴリズムを用いて、最適コストの上界を動的かつ正確に維持することで、効率的なスケッチ管理と陳腐化・不適切なサンプリングレベルの削除が可能になった。
• 二重インスタンスメカニズムにより、すべてのクエリがサイズwの完全なウィンドウに基づいて応答され、解決品質を保ちながら、段階的な更新が可能になった。
• 理論的解析により、ストリームの直径増加に基づく対数的パーティショニングのおかげで、最適コストの上界Mが上昇してもスケッチサイズがO(k polylog w)に有界であることが証明された。