[论文解读] Farthest-Point Heuristic based Initialization Methods for K-Modes Clustering

Zengyou He|ArXiv.org|Oct 9, 2006

Advanced Clustering Algorithms Research参考文献 12被引用 24

一句话总结

本文提出了一种基于最远点启发式方法的 k-modes 聚类算法初始化策略，通过减少对随机初始质心选择的敏感性来提高聚类准确性。实验表明，该方法在多个数据集上均一致优于随机初始化的聚类结果。

ABSTRACT

The k-modes algorithm has become a popular technique in solving categorical data clustering problems in different application domains. However, the algorithm requires random selection of initial points for the clusters. Different initial points often lead to considerable distinct clustering results. In this paper we present an experimental study on applying a farthest-point heuristic based initialization method to k-modes clustering to improve its performance. Experiments show that new initialization method leads to better clustering accuracy than random selection initialization method for k-modes clustering.

研究动机与目标

• 为解决 k-modes 聚类对初始质心选择的敏感性问题，该问题常导致次优聚类结果。
• 探究基于最远点启发式的确定性初始化策略是否能提升聚类性能。
• 评估所提出的初始化方法在提升分类数据聚类准确性方面的有效性。
• 与随机选择相比，提供一种更稳定可靠的 k-modes 聚类初始化方法。

提出的方法

• 通过迭代选择与已选质心距离最远的数据点，应用最远点启发式方法来选取初始聚类中心。
• 算法首先选择与其他所有点距离之和最大的数据点作为第一个中心。
• 后续中心则选择为与已选中心最小距离最大的点。
• 所选初始中心随后用于初始化 k-modes 算法进行聚类。
• 该方法确保初始聚类中心之间具有更高的多样性，从而降低收敛到较差局部最优解的可能性。

实验结果

研究问题

• RQ1 与随机初始化相比，最远点启发式初始化方法是否能提升 k-modes 聚类的准确性？
• RQ2 所提出的初始化方法如何影响 k-modes 聚类的稳定性和收敛性？
• RQ3 最远点启发式能否降低 k-modes 对初始质心选择的依赖性？
• RQ4 该方法在不同分类数据集上的性能提升如何？

主要发现

• 与随机初始化相比，最远点启发式初始化方法显著提升了 k-modes 聚类的准确性。
• 所提出的方法降低了多次运行中聚类结果的方差，表明其具有更高的稳定性。
• 在多个数据集上的实验表明，最远点启发式方法表现出一致的性能提升。
• 该方法有效缓解了 k-modes 聚类中因初始质心选择不佳带来的负面影响。