[논문 리뷰] Faster Balanced Clusterings in High Dimension

Hu Ding|arXiv (Cornell University)|2018. 09. 04.

Facility Location and Emergency Management참고 문헌 47인용 수 3

한 줄 요약

이 논문은 고차원에서 더 빠른 균형 임계 클러스터링을 위한 새로운 기하학적 프레임워크를 제안하며, 공간 분할을 통해 균형 임계 $k$-센터, $k$-메디안, $k$-메안 문제의 해결을 단순화하고 가속화한다. $k$-센터 문제에 대해 $4$-근사값을 달성하고, $k$가 상수일 경우 선형 또는 거의 선형 시간 내에 $k$-메디안 및 $k$-메안 문제에 대해 상수 또는 $(1+\rho)$-근사값을 달성하여 이전 방법에 비해 크게 향상된다.

ABSTRACT

The problem of constrained clustering has attracted significant attention in the past decades. In this paper, we study the balanced $k$-center, $k$-median, and $k$-means clustering problems where the size of each cluster is constrained by the given lower and upper bounds. The problems are motivated by the applications in processing large-scale data in high dimension. Existing methods often need to compute complicated matchings (or min cost flows) to satisfy the balance constraint, and thus suffer from high complexities especially in high dimension. We develop an effective framework for the three balanced clustering problems to address this issue, and our method is based on a novel spatial partition idea in geometry. For the balanced $k$-center clustering, we provide a $4$-approximation algorithm that improves the existing approximation factors; for the balanced $k$-median and $k$-means clusterings, our algorithms yield constant and $(1+ε)$-approximation factors with any $ε>0$. More importantly, our algorithms achieve linear or nearly linear running times when $k$ is a constant, and significantly improve the existing ones. Our results can be easily extended to metric balanced clusterings and the running times are sub-linear in terms of the complexity of $n$-point metric.

연구 동기 및 목표

• 고차원 공간에서 복잡한 매칭 또는 최소비용 플로우 계산에 의존하는 기존 균형 클러스터링 알고리즘의 계산 비효율성을 해결하기 위해.
• 균형 임계 클러스터링의 세 가지 핵심 문제인 $k$-센터, $k$-메디안, $k$-메안 문제를 단순화하고 가속화하는 통합된 기하학 기반 프레임워크를 개발하기 위해.
• 특히 $k$가 상수일 경우 시간 복잡도를 감소시키면서도 증명 가능한 좋은 근사 비율을 달성하기 위해.
• 프레임워크를 거리 공간으로 확장하여 $n$에 대해 부분선형 또는 거의 선형 런타임을 확보하기 위해.

제안 방법

• 고차원 기하학에서의 새로운 공간 분할 기법을 도입하여 클러스터 할당과 균형 보장 과정을 분리한다.
• Chen의 이중 기준 $k$-메디안/$k$-메안 알고리즘을 사용해 $O(k)$개의 후보 중심점을 생성함으로써 검색 공간을 축소한다.
• 선형 프로그래밍(LP) 리라크스레이션과 라운딩 절차(정리 2.2)를 활용하여 분수 해를 정수 클러스터 할당으로 변환하면서 크기 제약 조건을 준수한다.
• 스프레드 비율 $\Delta$와 $\epsilon$-의존 샘플링을 활용하여 거리 비율을 제한하고, $k$-메디안 및 $k$-메안 문제에 대해 $(1+\epsilon)$-근사값을 확보한다.
• 문헌 [14] 및 [26]의 기법을 응용하여 고확률로 $(1+\epsilon)$-근사해를 제공하는 후보 $k$-튜플 중심점을 생성한다.
• 기하학적 통찰과 LP 기반 라운딩을 융합하여 근사 보장을 유지하면서도 계산 오버헤드를 최소화한다.

실험 결과

연구 질문

• RQ1 균형 클러스터링에서 복잡한 매칭 또는 최소비용 플로우 계산을 대체할 수 있는 기하학적 공간 분할 접근 방식은 가능한가?
• RQ2 만약 $k$가 상수일 경우, 이 프레임워크는 $k$-메디안 및 $k$-메안 문제에 대해 상수 또는 $(1+\epsilon)$-근사값을 달성할 수 있는가? 이때 시간 복잡도는 거의 선형인가?
• RQ3 제안된 방법은 고차원 유클리드 공간 및 거리 공간에서 어떻게 스케일링되는가?
• RQ4 $k$-센터 클러스터링의 경우 기존 최고 수준의 성능을 초월하여 근사 요소를 향상시킬 수 있는가?
• RQ5 제안된 프레임워크에서 근사 품질과 런타임 사이의 상충 관계는 어떠한가?

주요 결과

• 논문은 균형 $k$-센터 클러스터링에 대해 $4$-근사 알고리즘을 제안하며, 이는 이전 최고의 근사 비율을 향상시킨다.
• 균형 $k$-메디안 및 $k$-메안 문제에 대해 $k$가 상수일 경우 $O(nd + (\log\Delta)^{3k}\log^2(\log\Delta))$ 시간 내에 $O(1)$-근사값을 달성한다.
• 문헌 [14]의 정교한 후보 생성 기법을 활용하면, 알고리즘은 $O(2^{\tilde{O}(k/\epsilon^{O(1)})}(nd + (\frac{\log(\Delta/\epsilon)}{\epsilon})^{3k}(\log\frac{1}{\epsilon} + \log\log\Delta)^2))$ 시간 내에 $k$-메디안 및 $k$-메안 문제에 대해 $(1+\epsilon)$-근사값을 제공한다.
• 프레임워크는 거리 공간으로도 확장 가능하며, 거리 $k$-B메디안 및 $k$-B메안 문제에 대해 $O(nD + (\log\Delta)^{3k}\log^2(\log\Delta))$ 시간 내에 $O(1)$-근사값을 달성한다.
• 고정된 $k$에 대해 $n$에 대해 거의 선형 시간 복잡도를 확보하여, 이전 방법이 비용이 많이 드는 플로우 또는 매칭 계산에 의존했던 것에 비해 크게 향상된다.
• 이론적 분석을 통해 LP 리라크스레이션과 라운딩을 통해 근사 보장이 유지되며, $r_{\text{max}}/r_{\text{min}}$의 상한은 스프레드 비율과 $\epsilon$-샘플링을 통해 제어됨을 확인한다.