[论文解读] A simple and fast method to determine the parameters for fuzzy c-means cluster validation

Veit Schwämmle, Ole N. Jensen|arXiv (Cornell University)|Apr 8, 2010

Advanced Clustering Algorithms Research参考文献 20被引用 5

一句话总结

本文提出了一种快速、与数据无关的方法，通过仅从数据的维度和对象数量估计最优模糊化参数，来确定模糊c-均值聚类中的最优模糊化参数。该方法使用最小中心距作为验证指标，优于计算成本较高的替代方法，并避免了在低维数据集中常见默认将模糊化参数设为2的做法，尤其在最优值超过2的低维数据集中表现更优。

ABSTRACT

Fuzzy c-means clustering is widely used to identify cluster structures in high-dimensional data sets, such as those obtained in DNA microarray and quantitative proteomics experiments. One of its main limitations is the lack of a computationally fast method to determine the two parameters fuzzifier and cluster number. Wrong parameter values may either lead to the inclusion of purely random fluctuations in the results or ignore potentially important data. The optimal solution has parameter values for which the clustering does not yield any results for a purely random data set but which detects cluster formation with maximum resolution on the edge of randomness. Estimation of the optimal parameter values is achieved by evaluation of the results of the clustering procedure applied to randomized data sets. In this case, the optimal value of the fuzzifier follows common rules that depend only on the main properties of the data set. Taking the dimension of the set and the number of objects as input values instead of evaluating the entire data set allows us to propose a functional relationship determining its value directly. This result speaks strongly against setting the fuzzifier equal to 2 as typically done in many previous studies. Validation indices are generally used for the estimation of the optimal number of clusters. A comparison shows that the minimum distance between the centroids provides results that are at least equivalent or better than those obtained by other computationally more expensive indices.

研究动机与目标

• 解决模糊c-均值聚类中缺乏快速、计算高效的最优模糊化参数确定方法的问题。
• 减少对将模糊化参数设为2的依赖，因为该值在具有特定噪声特征的数据中可能次优。
• 通过最小化随机波动引起的假阳性结果，同时保留微弱但真实的聚类结构，提升聚类验证的准确性。
• 提供一种无需处理完整数据集的参数估计方法，从而实现对更大数据集的可扩展性。
• 验证最小中心距作为传统验证指标的稳健、低成本替代方案，用于确定聚类数量。

提出的方法

• 仅使用维度数（D）和对象数（N）估算最优模糊化参数，避免完整数据处理。
• 基于D和N推导模糊化参数的函数关系，避免在数据集上进行迭代评估。
• 使用聚类中心之间的最小中心距作为主要验证指标，以确定最优聚类数（c）。
• 通过在随机化数据集上评估聚类结果，识别出能最大程度抑制随机聚类形成但同时保留真实结构的模糊化参数。
• 在具有已知参数的人工数据和真实蛋白质组学数据（血清数据集）上验证该方法，结果表现一致。
• 发现低维数据集中最优模糊化参数显著高于2（例如，D < 8，N < 200），挑战了常见默认值。

实验结果

研究问题

• RQ1 是否存在一种快速、与数据无关的方法，用于估算模糊c-均值聚类中的最优模糊化参数？
• RQ2 最优模糊化参数值如何依赖于数据维度和样本大小？
• RQ3 最小中心距能否作为传统验证指标的可靠且计算高效的替代方案？
• RQ4 为何将模糊化参数设为2在低维数据集中次优，尤其在这些情况下？
• RQ5 该方法在维度有限且样本量小的真实世界蛋白质组学数据上的表现如何？

主要发现

• 最优模糊化参数并非普遍为2；在低维数据集中（例如，D < 8，N < 200）显著增加，且值超过2。
• 所提方法仅使用D和N估算最优模糊化参数，无需数据处理，计算效率高。
• 最小中心距验证指标的结果至少与更复杂的指标相当或更优，且在真实聚类数处呈现清晰衰减。
• 对于人工数据（D=13，N=500，M=10，w=2），该方法使用m_t=1.25正确识别出c=10为最优。
• 在血清蛋白质组学数据集（D≈13，N=500）中，最小中心距指示c=5为最优，与其他指标一致。
• 该方法揭示，存在偏差或低维的数据需要仔细的参数调优，因为标准默认值会导致聚类分辨率差或过拟合。