[論文レビュー] Unexpected Effects of Online K-means Clustering.

Michal Moshkovitz|arXiv (Cornell University)|Aug 9, 2019

Advanced Clustering Algorithms Research被引用数 4

ひとこと要約

本稿はオンラインk-meansクラスタリングを調査し、データの順序とデータセットサイズnの知識がクラスタリング品質に顕著に影響することを明らかにした。定数kに対して、任意の順序では必要となる中心数がΩ(n)から、ランダム順序かつnが未知の場合はΘ(log n)に低下し、nが事前に分かっている場合は定数にまで減少する。各シナリオについて、タイトな漸近的バインディングを確立した。

ABSTRACT

In this paper we study k-means clustering in the online setting. In the offline setting the main parameters are number of centers, k, and size of the dataset, n. Performance guarantees are given as a function of these parameters. In the online setting new factors come into place: the ordering of the dataset and whether n is known in advance or not. One of the main results of this paper is the discovery that these new factors have dramatic effects on the quality of the clustering algorithms. For example, for constant k: (1) $\Omega(n)$ centers are needed if the order is arbitrary, (2) if the order is random and n is unknown in advance, the number of centers reduces to $\Theta(logn)$, and (3) if n is known, then the number of centers reduces to a constant. For different values of the new factors, we show upper and lower bounds that are exactly the same up to a constant, thus achieving optimal bounds.

研究の動機と目的

• オンラインデータの順序とデータセットサイズnの知識がk-meansクラスタリングのパフォーマンスに与える影響を理解すること。
• 新たな要因としての順序とnの知識が、効果的なクラスタリングに必要な中心数に与える影響を分析すること。
• 順序とnの知識のさまざまな組み合わせ下での中心数に必要なタイトな上界と下界を確立すること。
• 動的データの到着と限られた事前知識を考慮したオンラインk-meansクラスタリングの理論的保証を提供すること。

提案手法

• 任意の順序、ランダム順序、およびnの既知／未知の状況におけるオンラインk-meansの分析。
• k、n、およびデータ順序をパrameterとする、クラスタリング品質に必要な中心数の理論的上界と下界を導出する。
• 漸近的解析を用いて、すべてのシナリオにおいて定数倍の違いを除いてバインディングがタイトであることを示す。
• 到着シーケンスとnの知識に基づいて、クラスタリング品質と中心数のトレードオフを形式化する。
• 確率的および敵対的議論を用いて、任意順序およびランダム順序下での下界を確立する。

実験結果

リサーチクエスチョン

• RQ1 定数kと任意のデータ順序の場合、オンラインk-meansクラスタリングにおける中心数にどのような影響があるか？
• RQ2 nが事前に不明な状況でランダムなデータ順序が中心数に与える影響は何か？
• RQ3 事前にデータセットサイズnを知っている場合、オンラインk-meansにおける必要な中心数はどのように減少するか？
• RQ4 さまざまなオンラインクラスタリングシナリオにおいて、中心数の理論的バインディングはタイトか？

主な発見

• 定数kと任意の順序の場合、クラスタリング品質を維持するにはΩ(n)の中心数が必要である。
• ランダム順序かつnが未知の場合、中心数はΘ(log n)にまで低下し、顕著な改善が得られる。
• nが事前に分かっている場合、定数kに対しても必要な中心数は定数にまで減少する。
• 各シナリオにおける上界と下界は、定数倍の違いを除いてタイトであり、最適なパフォーマンス保証を示している。