[论文解读] Clustering Multidimensional Data with PSO based Algorithm

Jayshree Ghorpade-Aher, Vishakha A. Metre|arXiv (Cornell University)|Feb 26, 2014

Advanced Clustering Algorithms Research参考文献 13被引用 10

一句话总结

本文提出SC-BR-APSO，一种先进的粒子群优化（PSO）算法，通过集成减法聚类实现初始中心检测、边界限制以及自适应参数控制，以提升多维数据的聚类性能。该方法在九个基准数据集上的实验表明，其误差率更低、收敛速度更快，优于K-Means、标准PSO及其他混合变体。

ABSTRACT

Data clustering is a recognized data analysis method in data mining whereas K-Means is the well known partitional clustering method, possessing pleasant features. We observed that, K-Means and other partitional clustering techniques suffer from several limitations such as initial cluster centre selection, preknowledge of number of clusters, dead unit problem, multiple cluster membership and premature convergence to local optima. Several optimization methods are proposed in the literature in order to solve clustering limitations, but Swarm Intelligence (SI) has achieved its remarkable position in the concerned area. Particle Swarm Optimization (PSO) is the most popular SI technique and one of the favorite areas of researchers. In this paper, we present a brief overview of PSO and applicability of its variants to solve clustering challenges. Also, we propose an advanced PSO algorithm named as Subtractive Clustering based Boundary Restricted Adaptive Particle Swarm Optimization (SC-BR-APSO) algorithm for clustering multidimensional data. For comparison purpose, we have studied and analyzed various algorithms such as K-Means, PSO, K-Means-PSO, Hybrid Subtractive + PSO, BRAPSO, and proposed algorithm on nine different datasets. The motivation behind proposing SC-BR-APSO algorithm is to deal with multidimensional data clustering, with minimum error rate and maximum convergence rate.

研究动机与目标

• 解决传统K-Means和PSO在聚类多维数据时的局限性，包括对初始聚类中心敏感及早熟收敛问题。
• 通过智能优化克服预设聚类数量、陷入局部最优及多重聚类成员归属等问题。
• 开发一种鲁棒且自适应的PSO变体，利用减法聚类实现有效初始化，并引入边界约束以提升搜索效率。
• 在多样化的多维数据集上，实现比现有PSO基及混合聚类方法更高的聚类准确率和更快的收敛速度。

提出的方法

• 应用减法聚类在PSO框架中识别潜在聚类中心作为初始粒子位置。
• 引入边界限制，将粒子运动限制在可行解空间内，防止超出范围的探索。
• 实现自适应参数（惯性权重和加速系数），根据收敛进度动态调整。
• 采用基于组内平方和（WCSS）的适应度函数评估聚类质量并指导粒子更新。
• 集成混合搜索机制，粒子通过基于个体最优和全局最优位置的速度与位置更新进行演化。
• 迭代优化直至满足收敛条件，最终聚类由全局最优粒子确定。

实验结果

研究问题

• RQ1 与随机初始化相比，减法聚类是否能改善基于PSO聚类中的初始聚类中心选择？
• RQ2 边界限制在多维聚类中在多大程度上提升了收敛稳定性和解的质量？
• RQ3 PSO中的自适应参数控制如何减少早熟收敛并提升聚类准确率？
• RQ4 SC-BR-APSO在多维数据集上的性能与K-Means、标准PSO及混合PSO变体相比如何？
• RQ5 所提出的算法是否能在无需预先知晓聚类数量的情况下实现更低的误差率和更快的收敛速度？

主要发现

• 在所有九个基准数据集上，SC-BR-APSO的误差率均最低，优于K-Means、PSO、K-Means-PSO、混合减法+PSO及BRAPSO。
• 该算法表现出最快的收敛速度，表明其对聚类配置的优化效率更高。
• 减法聚类显著改善了初始中心选择，降低了对随机初始化的敏感性。
• 边界限制与自适应参数控制降低了粒子发散或陷入局部最优的可能性。
• 与K-Means-PSO和混合减法+PSO相比，所提方法在准确率和收敛速度上均表现更优。
• SC-BR-APSO在无需预先知晓聚类数量的情况下，对多样化多维数据集表现出稳健的性能。