[논문 리뷰] Unexpected Effects of Online K-means Clustering.

Michal Moshkovitz|arXiv (Cornell University)|2019. 08. 09.

Advanced Clustering Algorithms Research인용 수 4

한 줄 요약

이 논문은 온라인 k-means 클러스터링을 조사하며, 데이터 순서와 데이터셋 크기 n에 대한 지식이 클러스터링 품질에 결정적인 영향을 미친다는 것을 밝혀냈다. 상수 k에 대해, 임의의 순서일 경우 필요한 중심 수는 Ω(n)에서 시작하지만, 무작위 순서일 경우 및 n이 알려지지 않은 경우 Θ(log n)으로 감소하고, n이 사전에 알려진 경우는 상수 수준으로 감소한다. 이는 각 상황에 대해 엄밀한 점근적 경계를 확립한다.

ABSTRACT

In this paper we study k-means clustering in the online setting. In the offline setting the main parameters are number of centers, k, and size of the dataset, n. Performance guarantees are given as a function of these parameters. In the online setting new factors come into place: the ordering of the dataset and whether n is known in advance or not. One of the main results of this paper is the discovery that these new factors have dramatic effects on the quality of the clustering algorithms. For example, for constant k: (1) $\Omega(n)$ centers are needed if the order is arbitrary, (2) if the order is random and n is unknown in advance, the number of centers reduces to $\Theta(logn)$, and (3) if n is known, then the number of centers reduces to a constant. For different values of the new factors, we show upper and lower bounds that are exactly the same up to a constant, thus achieving optimal bounds.

연구 동기 및 목표

• 온라인 데이터 순서와 데이터셋 크기 n에 대한 지식이 k-means 클러스터링 성능에 미치는 영향을 이해하는 것.
• 이러한 새로운 요소인 순서와 n에 대한 지식이 효과적인 클러스터링을 위해 필요한 중심 수에 미치는 영향를 분석하는 것.
• 다양한 순서와 n에 대한 지식 조합에 따른 중심 수에 대한 엄밀한 상한과 하한을 설정하는 것.
• 동적 데이터 도착과 제한된 사전 지식을 고려한 온라인 k-means 클러스터링에 대한 이론적 보장을 제공하는 것.

제안 방법

• 다양한 데이터 도착 모델(임의 순서, 무작위 순서, n이 알려진지 여부) 하에서 온라인 k-means를 분석하는 것.
• k, n 및 데이터 순서를 매개변수로 삼아 클러스터링 품질을 확보하기 위해 필요한 중심 수에 대한 이론적 상한과 하한을 유도하는 것.
• 점근적 분석을 통해 모든 시나리오에서 상한과 하한이 상수 요인을 제외하고 엄밀함을 보이는 것.
• 도착 순서와 n에 대한 지식에 기반한 클러스터링 품질과 중심 수 사이의 상호 교환 관계를 수식화하는 것.
• 확률적 및 적대적 추론을 적용하여 임의 순서 및 무작위 순서 조건 하에서의 하한을 확립하는 것.

실험 결과

연구 질문

• RQ1 상수 k에 대해 임의의 데이터 순서는 온라인 k-means 클러스터링에서 필요한 중심 수에 어떤 영향을 미치는가?
• RQ2 n이 사전에 알려지지 않은 상태에서 무작위 데이터 순서는 중심 수에 어떤 영향을 미치는가?
• RQ3 사전에 데이터셋 크기 n을 알고 있음이 온라인 k-means에서 필요한 중심 수를 어떻게 줄이는가?
• RQ4 다양한 온라인 클러스터링 시나리오에서 중심 수에 대한 이론적 경계가 엄밀한가?

주요 결과

• 상수 k와 임의의 데이터 순서일 경우, 클러스터링 품질을 유지하기 위해 Ω(n)개의 중심이 필요하다.
• 무작위 데이터 순서이면서 n이 사전에 알려지지 않은 경우, 중심 수는 Θ(log n)으로 감소하여 상당한 개선이 이루어진다.
• n이 사전에 알려진 경우, 상수 k일지라도 필요한 중심 수는 상수 수준으로 감소한다.
• 각 시나리오에 대한 상한과 하한은 상수 요인을 제외하고 엄밀하므로, 최적의 성능 보장이 가능하다.