[논문 리뷰] A simple and fast method to determine the parameters for fuzzy c-means cluster validation

Veit Schwämmle, Ole N. Jensen|arXiv (Cornell University)|2010. 04. 08.

Advanced Clustering Algorithms Research참고 문헌 20인용 수 5

한 줄 요약

이 논문은 데이터의 차원 수와 객체 수만을 기반으로 하여, 데이터 처리 없이도 빠르고 데이터에 의존하지 않는 방법으로 퍼지 c-평균 군집화의 최적의 퍼지피어러 파라미터를 결정하는 방법을 제안한다. 이 방법은 최소 중심 거리를 검증 지표로 사용하며, 계산 비용이 높은 대안들보다 뛰어나고, 특히 최적 값이 2를 초과하는 저차원 데이터 세트에서 흔히 사용되는 2로 설정하는 것과 같은 일반적인 설정을 피한다.

ABSTRACT

Fuzzy c-means clustering is widely used to identify cluster structures in high-dimensional data sets, such as those obtained in DNA microarray and quantitative proteomics experiments. One of its main limitations is the lack of a computationally fast method to determine the two parameters fuzzifier and cluster number. Wrong parameter values may either lead to the inclusion of purely random fluctuations in the results or ignore potentially important data. The optimal solution has parameter values for which the clustering does not yield any results for a purely random data set but which detects cluster formation with maximum resolution on the edge of randomness. Estimation of the optimal parameter values is achieved by evaluation of the results of the clustering procedure applied to randomized data sets. In this case, the optimal value of the fuzzifier follows common rules that depend only on the main properties of the data set. Taking the dimension of the set and the number of objects as input values instead of evaluating the entire data set allows us to propose a functional relationship determining its value directly. This result speaks strongly against setting the fuzzifier equal to 2 as typically done in many previous studies. Validation indices are generally used for the estimation of the optimal number of clusters. A comparison shows that the minimum distance between the centroids provides results that are at least equivalent or better than those obtained by other computationally more expensive indices.

연구 동기 및 목표

• 퍼지 c-평균 군집화에서 최적의 퍼지피어러를 결정하기 위한 빠르고 계산 효율적인 방법이 부족한 문제를 해결하기 위해.
• 특정 노이즈 특성을 가진 데이터에서 2로 설정하는 것보다 최적일 수 없는 경우가 많기 때문에, 퍼지피어러를 2로 설정하는 데 의존도를 줄이기 위해.
• 임의의 변동에서 발생하는 거짓 긍정을 최소화하면서도 약한 실질적인 군집 구조를 유지함으로써 군집 검증 정확도를 향상시키기 위해.
• 전체 데이터 세트를 처리하는 것을 피함으로써 더 큰 데이터 세트로의 확장성을 확보하는 파라미터 추정 방법을 제공하기 위해.
• 최소 중심 거리가 전통적인 검증 지표에 비해 강건하고 저비용의 대안으로서 군집 수를 결정하는 데 유용한가를 검증하기 위해.

제안 방법

• 최적의 퍼지피어러는 데이터 전체 처리를 생략하고 차원 수(D)와 객체 수(N)만을 사용하여 추정된다.
• 이 방법은 데이터 세트에서 반복 평가를 피하기 위해 D와 N에 기반한 함수적 관계를 유도한다.
• 군집 중심 간 최소 중심 거리가 최적의 군집 수(c)를 결정하기 위한 주요 검증 지표로 사용된다.
• 이 접근법은 무작위로 생성된 데이터 세트에서 군집 결과를 평가하여, 임의의 군집 형성은 최대한 억제하면서도 실질적인 구조는 유지하는 퍼지피어러를 식별한다.
• 이 방법은 알려진 파rameter를 가진 인위적 데이터와 실제 단백질체학 데이터(혈청 세트)에서 검증되었으며, 일관된 성능을 보였다.
• 저차원 데이터 세트에서 최적의 퍼지피어러는 2보다 훨씬 높게 나타나며, 특히 D < 8, N < 200일 경우 일반적인 설정을 뒤집는다.

실험 결과

연구 질문

• RQ1 퍼지 c-평균 군집화의 최적의 퍼지피어러를 추정하기 위한 빠르고 데이터에 의존하지 않는 방법은 무엇인가?
• RQ2 최적의 퍼지피어러 값은 데이터의 차원 수와 표본 크기에 어떻게 의존하는가?
• RQ3 최소 중심 거리가 전통적인 검증 지표에 비해 신뢰할 수 있고 계산 비용이 낮은 대안으로 기능할 수 있는가?
• RQ4 왜 퍼지피어러를 2로 설정하는 것이 특히 저차원 데이터 세트에서 최적의 선택이 아니며, 비효율적인가?
• RQ5 제안된 방법은 제한된 차원 수와 작은 표본 크기를 가진 실제 생체분자체학 데이터에서 어떻게 성능을 발휘하는가?

주요 결과

• 최적의 퍼지피어러는 항상 2가 아니며, 저차원 데이터 세트에서는 크게 증가한다 (예: D < 8, N < 200), 이 경우 2를 초과하는 값이 된다.
• 제안된 방법은 D와 N만을 사용하여 최적의 퍼지피어러를 추정하며, 데이터 처리가 필요 없고 계산 효율성이 뛰어나다.
• 최소 중심 거리 검증 지표는 더 복잡한 지표들보다 결과가 동일하거나 더 우수하며, 진짜 군집 수에서 명확한 감소 경향을 보인다.
• D=13, N=500, M=10, w=2 인 인위적 데이터 세트에서, 방법은 m_t=1.25를 사용하여 c=10 이 최적임을 정확히 식별했다.
• 혈청 단백질체학 데이터 세트(D≈13, N=500)에서 최소 중심 거리는 c=5 를 최적의 군집 수로 나타내었으며, 다른 지표들과 일치하는 결과를 보였다.
• 이 방법은 편향이 있거나 저차원인 데이터는 주의 깊은 파라미터 조정이 필요하다는 점을 드러내었으며, 일반적인 설정은 군집 해상도를 떨어뜨리거나 과적합을 유발할 수 있다.