[논문 리뷰] On Variants of k-means Clustering

Bhattiprolu, Vijay V. S. P., Har-Peled, Sariel|arXiv (Cornell University)|2015. 12. 09.

Computational Geometry and Mesh Generation참고 문헌 29인용 수 13

한 줄 요약

이 논문은 시설 개설 비용과 제곱 거리의 합을 최소화하는 것을 목표로 하는 k-평균 클러스터링의 변종인 제곱합시설배치문제(SOS-FL)에 대한 국소 탐색 다항시간근사계량기법(PTAS)을 제시한다. 고정된 차원 d와 ε > 0에 대해, 이 알고리즘은 (1 + ε)-근사해를 달성하며, 고정된 유도적 공간에서 SOS-FL이 PTAS를 갖는지 여부에 대한 열린 문제를 해결한다.

ABSTRACT

Given a set P of n points in R^d , we show how to insert a set Z of O(n^(1-1/d)) additional points, such that P can be broken into two sets P1 and P2 , of roughly equal size, such that in the Voronoi diagram V(P u Z), the cells of P1 do not touch the cells of P2; that is, Z separates P1 from P2 in the Voronoi diagram (and also in the dual Delaunay triangulation). In addition, given such a partition (P1,P2) of P , we present an approximation algorithm to compute a minimum size separator realizing this partition. We also present a simple local search algorithm that is a PTAS for approximating the optimal Voronoi partition.

연구 동기 및 목표

• 고정된 차원 유도적 공간에서 제곱합시설배치문제(SOS-FL)가 다항시간근사계량기법(PTAS)을 갖는지 조사하는 것.
• k-평균 클러스터링의 어려움이 제곱거리의 합 목적함수 때문인지, 아니면 중심 수에 대한 전역적 제약 때문인지 이해하는 것.
• SOS-FL에 대해 근사성 보장을 거의 최적에 가깝게 달성하는 국소 탐색 기반의 근사 알고리즘을 개발하는 것.
• SOS-FL에서의 통찰을 고전적 k-평균 문제로 확장하여, 전역적 제약과 제곱거리 목적함수의 역할을 분석하는 것.

제안 방법

• 시설 비용과 할당 비용을 기반으로 한 잠재함수를 사용하여, 시설을 교체하는 방식으로 점진적으로 개선되는 국소 탐색 히우리스틱을 설계한다.
• k-평균 문제에 대해 (1 + ε)k개의 중심을 사용하고 최적의 k-평균 비용의 (1 + ε) 이내의 해를 달성하는 이중기준 국소 탐색 알고리즘을 도입한다.
• 근사비를 유한하게 제한하기 위해 잠재함수 분석과 충전 논증을 활용하며, 고정된 차원에서 기하학적 성질을 활용한다.
• 해공간의 클러스터 기반 분해와 재귀적 정밀화 과정을 통해 (1 + ε)-근사해로의 수렴을 보장한다.
• 아로라의 기하 문제용 PTAS에 영감을 받은 기법을 사용하며, 국소 개선의 세밀한 분석을 통해 제곱거리 처리에 적응시킨다.
• 국소 탐색 알고리즘이 고정된 차원 d에서 다항시간 내에 종료되며, SOS-FL에 대해 (1 + ε)-근사해를 달성함을 증명한다.

실험 결과

연구 질문

• RQ1 고정된 차원 유도적 공간에서 제곱합시설배치문제(SOS-FL)가 다항시간근사계량기법(PTAS)을 갖는가?
• RQ2 제곱거리가 포함된 기하 문제, 예를 들어 k-평균과 SOS-FL에 대해 국소 탐색 기법을 효과적으로 적용할 수 있는가?
• RQ3 k-평균 클러스터링의 NP-난이도가 주로 제곱합 목적함수 때문인지, 아니면 중심 수에 대한 전역적 제약 때문인지?
• RQ4 k-평균 문제에 대해 이중기준 국소 탐색 알고리즘이 (1 + ε)k개의 중심만을 사용하면서 (1 + ε)-근사해를 달성할 수 있는가?
• RQ5 시설 비용 매개변수 f는 시설 수와 제곱거리의 합 사이의 트레이드오프를 어떻게 조절하는가?

주요 결과

• 논문은 임의의 고정된 차원 d에서 SOS-FL에 대해 국소 탐색 기반 PTAS를 제시하며, 임의의 ε > 0에 대해 (1 + ε)-근사해를 달성한다.
• 알고리즘은 다항시간 내에 실행되며, 시설을 교체하여 해를 개선하는 국소 탐색 히우리스틱을 사용하고, 수렴을 보장하는 잠재함수를 갖는다.
• k-평균 문제에 대해 저자들은 (1 + ε)k개의 중심을 사용하고 최적의 k-평균 비용의 (1 + ε) 이내의 해를 달성하는 이중기준 국소 탐색 알고리즘을 설계한다.
• 분석 결과, 국소 탐색 방법은 제곱거리를 효과적으로 처리할 수 있으며, 이전 방법이 달성한 9 + ε 이내의 근사도를 뛰어넘는 거의 최적의 경계를 제공한다.
• 결과적으로, 전역적 제약과 제곱합 목적함수의 조합이 k-평균을 어렵게 만드는 핵심 요소임을 시사하며, 목적함수 자체만이 원인은 아님을 의미한다.
• 개발된 프레임워크는 기하 근사에서 국소 탐색을 분석하는 일반적인 접근법을 제공하며, 제곱거리가 포함된 다른 문제들에도 응용 가능성이 있다.