[논문 리뷰] A new Initial Centroid finding Method based on Dissimilarity Tree for K-means Algorithm

Abhishek Kumar, Suresh Gupta|arXiv (Cornell University)|2015. 06. 19.

Advanced Clustering Algorithms Research참고 문헌 9인용 수 6

한 줄 요약

이 논문은 클러스터링 정확도를 향상시키고 계산 시간을 줄이기 위해 이질성 트리(Disimilarity Tree)를 사용하여 K-means 알고리즘의 초기 중심점 선택 방법을 제안한다. 계층적 클러스터링의 구조를 활용하여 잘 분리된 대표적인 점들을 초기 중심점으로 선정함으로써, 기존 방법에 비해 더 안정적이고 정확한 클러스터를 더 낮은 반복 횟수와 더 빠른 수렴 속도로 달성한다.

ABSTRACT

Cluster analysis is one of the primary data analysis technique in data mining and K-means is one of the commonly used partitioning clustering algorithm. In K-means algorithm, resulting set of clusters depend on the choice of initial centroids. If we can find initial centroids which are coherent with the arrangement of data, the better set of clusters can be obtained. This paper proposes a method based on the Dissimilarity Tree to find, the better initial centroid as well as every bit more accurate cluster with less computational time. Theory analysis and experimental results indicate that the proposed method can effectively improve the accuracy of clusters and reduce the computational complexity of the K-means algorithm.

연구 동기 및 목표

• 초기 중심점 선택에 민감한 K-means 클러스터링의 문제를 해결함으로써 최종 클러스터 품질에 미치는 영향을 최소화하고자 한다.
• 더 대표적인 초기 중심점을 선택하여 K-means의 계산 복잡도를 낮추고자 한다.
• 기본 데이터 구조를 더 잘 반영하는 중심점을 식별함으로써 클러스터링 정확도를 향상시키고자 한다.
• 수렴에 필요한 반복 횟수를 최소화하는 방법을 개발하고자 한다.
• 랜덤 또는 히우리스틱 기반 초기 중심점 선택에 대한 확장 가능하고 효율적인 대안을 제공하고자 한다.

제안 방법

• 데이터셋에 대해 계층적 응집형 클러스터링을 사용하여 이질성 트리를 구축하여 데이터 간 관계를 표현한다.
• 이질성 트리의 낱잎에서 깊이와 클러스터 간 거리 기반으로 초기 중심점을 선정함으로써 분포와 대표성을 확보한다.
• 트리 구축 중에 단일 연결 또는 평균 연결 기준을 사용하여 클러스터 구조를 유지한다.
• 중복되거나 잘 분리되지 않은 노드를 제거하기 위해 정렬 전략을 적용하여 이질도가 높은 영역에 집중한다.
• 선택된 트리의 낱잎을 K-means의 초기 중심점으로 매핑하여 데이터 공간 전역에 걸쳐 잘 분포되도록 보장한다.
• 선택된 중심점을 직접 표준 K-means 프레임워크에 통합하여 최종 클러스터링을 수행한다.

실험 결과

연구 질문

• RQ1 이질성 트리가 더 정확한 K-means 클러스터링 결과를 이끌어내는 데 효과적으로 초기 중심점을 식별할 수 있는가?
• RQ2 제안된 방법이 랜덤 또는 k-means++ 초기화에 비해 K-means 수렴에 필요한 반복 횟수를 줄이는가?
• RQ3 제안된 방법의 계산 복잡도는 기존 중심점 초기화 기법과 비교하여 어떻게 되는가?
• RQ4 다양한 밀도와 형태를 가진 다양한 데이터셋에서 이 방법이 클러스터링 품질을 얼마나 향상시키는가?
• RQ5 대규모 데이터셋에서도 이 방법이 강건성과 효율성을 유지할 수 있는가?

주요 결과

• 기본 데이터셋에서 조정된 랜드 지수와 실루엣 스코어를 측정한 결과, 제안된 방법은 랜덤 초기화 및 k-means++보다 더 높은 클러스터링 정확도를 달성한다.
• 표준 초기화 전략에 비해 K-means 평균 반복 횟수를 최대 30% 감소시킨다.
• 효율적인 트리 기반 중심점 선택 덕분에 계산 복잡도가 감소하였으며, k-means++와 같은 반복적 방법보다 시간 오버헤드가 낮다.
• 여러 실행에서의 안정성이 향상되어 클러스터링 품질의 분산이 낮아졌다.
• 이질성 트리가 데이터 구조를 효과적으로 포착하여 잘 분리되고 기존 클러스터를 잘 대표하는 중심점을 선정하는 데 기여한다.
• 실험 결과는 트리 기반 중심점 선택이 더 빠른 수렴과 더 나은 최종 클러스터 품질을 이끌어낸다는 것을 확인한다.