[论文解读] A tutorial on Particle Swarm Optimization Clustering

Augusto Luis Ballardini|arXiv (Cornell University)|Sep 6, 2018

Metaheuristic Optimization Algorithms Research参考文献 5被引用 7

一句话总结

本文提供了一篇关于使用粒子群优化（PSO）进行数据聚类的全面教程，包含PSO聚类的详细MATLAB实现及参数调优指导。在六个数据集上将PSO聚类性能与K-Means进行了对比，展示了PSO在处理非凸和复杂聚类形状时的鲁棒性。

ABSTRACT

This paper proposes a tutorial on the Data Clustering technique using the Particle Swarm Optimization approach. Following the work proposed by Merwe et al. here we present an in-deep analysis of the algorithm together with a Matlab implementation and a short tutorial that explains how to modify the proposed implementation and the effect of the parameters of the original algorithm. Moreover, we provide a comparison against the results obtained using the well known K-Means approach. All the source code presented in this paper is publicly available under the GPL-v2 license.

研究动机与目标

• 为使用MATLAB实现基于PSO的聚类提供实用且可动手操作的教程。
• 使研究人员和实践者能够将PSO聚类算法适配到新数据集和聚类需求中。
• 在多个基准数据集上对比PSO聚类与标准K-Means算法的性能。
• 通过代码层面的洞察，清晰理解PSO参数及其对聚类结果的影响。
• 将完整实现公开发布，采用GPL-v2许可证，以确保可复现性和可扩展性。

提出的方法

• 将PSO算法应用于优化聚类中心位置，将每个粒子视为一组c维中心坐标组成的候选解。
• 使用标准PSO方程更新粒子速度和位置：$ v_{i,k}(t+1) = wv_{i,k}(t) + c_1 r_{1,k}(t)(y_{i,k}(t)-x_{i,k}(t)) + c_2 r_{2,k}(t)(y_{ ext{best}}(t)-x_{i,k}(t)) $，其中$ w $、$ c_1 $和$ c_2 $分别为惯性权重和加速常数。
• 每个粒子维护其个人最优位置$ y_i $，同时在整个粒子群中追踪全局最优位置$ y_{ ext{best}} $，以引导收敛。
• 使用量化误差评估适应度：$ \text{fitness} = \frac{1}{c} \times \text{每个点到其分配中心距离的均值} $。
• 在每次迭代中，通过在距离上使用`min`函数，将每个数据点分配给最近的中心，从而更新聚类分配。
• 该算法支持2D和3D可视化，具备动态绘图功能，并可选择性地记录优化过程的视频。

实验结果

研究问题

• RQ1 在具有非凸或不规则聚类形状的数据集上，基于PSO的聚类性能与K-Means相比如何？
• RQ2 关键PSO参数（惯性权重、加速常数）对聚类收敛性和质量的影响是什么？
• RQ3 如何在MATLAB中有效实现和自定义PSO聚类算法以适应不同数据集？
• RQ4 当数据分布违反K-Means假设时，PSO在聚类中如何提升鲁棒性？
• RQ5 PSO聚类框架能否扩展以处理重叠或层次聚类结构？

主要发现

• PSO聚类方法在K-Means因非凸性或重叠区域而失效的数据集中，成功识别出聚类结构。
• 在Iris数据集上，经过100次迭代后，算法收敛至全局适应度值约0.0558，该结果在命令窗口输出中已报告。
• MATLAB实现支持粒子运动和中心更新的实时可视化，有助于直观理解收敛动态。
• 参数调优——尤其是$ c_1 $、$ c_2 $和$ w $——显著影响收敛速度和聚类精度，通过交互式代码修改可清晰观察到这一影响。
• 在所有六个测试的基准数据集中，PSO方法的聚类质量与K-Means相比具有竞争力或更优表现，尤其在复杂或重叠聚类情况下优势明显。
• 源代码（包括视频录制和绘图功能）完全可用，并在GPL-v2许可证下公开发布，可供重用和扩展。