[논문 리뷰] A Complex Networks Approach for Data Clustering

Francisco A. Rodrigues, Guilherme Ferraz de Arruda외 1명|arXiv (Cornell University)|2011. 01. 26.

Complex Network Analysis Techniques참고 문헌 1인용 수 4

한 줄 요약

이 논문은 유사도 지표(예: 체비셰프, 맨하탄)로 간선이 가중치가 부여된 네트워크의 노드로 데이터 포인트를 모델링하는 복잡한 네트워크 이론을 사용하여 새로운 데이터 클러스터링 방법을 제안한다. 커뮤니티 탐지에 고급 알고리즘(예: fastgreedy)을 적용하여 자동으로 클러스터 수를 탐지하면서도 기존 방법(예: k-means, EM)보다 뛰어난 클러스터링 정확도를 달성한다. 비구형 및 겹치는 클러스터에 특히 뛰어난 성능을 보인다.

ABSTRACT

Many methods have been developed for data clustering, such as k-means, expectation maximization and algorithms based on graph theory. In this latter case, graphs are generally constructed by taking into account the Euclidian distance as a similarity measure, and partitioned using spectral methods. However, these methods are not accurate when the clusters are not well separated. In addition, it is not possible to automatically determine the number of clusters. These limitations can be overcome by taking into account network community identification algorithms. In this work, we propose a methodology for data clustering based on complex networks theory. We compare different metrics for quantifying the similarity between objects and take into account three community finding techniques. This approach is applied to two real-world databases and to two sets of artificially generated data. By comparing our method with traditional clustering approaches, we verify that the proximity measures given by the Chebyshev and Manhattan distances are the most suitable metrics to quantify the similarity between objects. In addition, the community identification method based on the greedy optimization provides the smallest misclassification rates.

연구 동기 및 목표

• 기존 그래프 기반 클러스터링 방법의 한계(고정된 클러스터 수, 비분리 또는 복잡한 형태의 클러스터에서의 낮은 성능 등)를 해결하기 위해.
• 유사도 지표(유클리드, 맨하탄, 체비셰프 등)가 복잡한 데이터 구조의 정확한 네트워크를 구성하는 데 얼마나 효과적인지 평가하기 위해.
• 커뮤니티 탐지 알고리즘(예: fastgreedy, 모듈래리티 최적화)이 복잡한 네트워크에서 클러스터를 식별하는 데 어떻게 비교되는지 분석하기 위해.
• 복잡한 네트워크 기반 클러스터링이 자동으로 클러스터 수를 결정하면서도 전통적 방법보다 낮은 오분류율을 달성할 수 있음을 입증하기 위해.
• 복잡한 클러스터 구조를 가진 인공 데이터셋과 실제 데이터베이스에서 제안된 방법의 유효성을 검증하기 위해.

제안 방법

• 데이터 포인트는 유클리드, 맨하탄, 체비셰프, Tanimoto 거리 등을 포함한 유사도 지표에 기반해 간선을 정의함으로써 네트워크로 변환된다.
• 유사도 값은 네트워크 구조와 커뮤니티 탐지 정확도 향상을 위해 지수함수 또는 역함수로 변환된다.
• 커뮤니티 탐지는 fastgreedy, 리딩에이전벡터, walktrap 세 가지 알고리즘을 사용하며, 최적의 클러스터 수를 결정하기 위해 모듈래리티 최적화가 적용된다.
• 클러스터 수는 최대 모듈래리티 값을 가지는 분할을 선택함으로써 자동으로 결정되며, 사전 지정이 필요 없어진다.
• 네트워크 구축은 희소성과 계산 효율성을 확보하기 위해 k-최근접 이웃 방법을 사용한다.
• 성능 평가는 오분류 오차율을 사용하여, 복잡한 네트워크 접근법을 k-means, cobweb, EM, 그리고 가장 먼 첫 번째 클러스터링과 비교한다.

실험 결과

연구 질문

• RQ1 비구형 및 복잡한 구조의 데이터를 클러스터링하기 위해 가장 정확한 네트워크 표현을 제공하는 유사도 지표(예: 체비셰프, 맨하탄, 유클리드)는 무엇인가?
• RQ2 fastgreedy, 리딩에이전벡터, walktrap 등의 커뮤니티 탐지 알고리즘 간의 클러스터링 정확도 및 계산 효율성은 어떻게 비교되는가?
• RQ3 복잡한 네트워크 접근법은 사전 지식 없이도 자동으로 클러스터 수를 결정할 수 있으며, k를 입력으로 요구하는 방법과 비교해 어떻게 성능을 내는가?
• RQ4 네트워크 기반 클러스터링 방법은 인공 및 실제 데이터셋에서 기존 알고리즘(예: k-means, EM)보다 낮은 오분류율을 달성하는가?
• RQ5 다양한 밀도를 가진 반원형 클러스터 등의 다양한 데이터 분포는 제안된 방법의 성능에 어떻게 영향을 미치는가?

주요 결과

• 실제 데이터베이스에서 맨하탄 거리의 지수함수와 체비셰프 거리의 역함수 처리가 가장 낮은 오분류율을 기록하여, 유사도를 보다 우수하게 포착함을 시사한다.
• 반원형 클러스터를 가진 인공 데이터셋에서는 맨하탄 거리와 체비셰프 거리의 지수함수가 가장 낮은 오차율을 기록했으며, 특히 점의 밀도가 증가할수록 성능 향상이 두드러졌다.
• fastgreedy 커뮤니티 탐지 알고리즘이 가장 낮은 오분류율을 기록했으며, 리딩에이전벡터 및 walktrap 방법보다도 효율성이 뛰어나 성능이 뛰어났다.
• 복잡한 네트워크 기반 방법은 k-means와 cobweb보다 유의미하게 낮은 오차율을 기록했으며, 비구형 및 겹치는 클러스터에서 전통적 방법이 실패하는 상황에서도 뛰어난 성능을 보였다.
• 모듈래리티 최적화를 통해 클러스터 수를 자동으로 결정함으로써 사전에 k를 지정할 필요가 없었으며, 다양한 클러스터 형태와 밀도를 가진 데이터셋에서 뛰어난 안정성과 탄력성을 보였다.
• 클러스터 수가 알려진 경우(k=2)에도 복잡한 네트워크 접근법은 k-means와 cobweb를 능가하는 성능을 보였으며, 이는 방법의 강건성과 정확성을 확인하는 데 기여했다.