[论文解读] Outlier Detection using Improved Genetic K-means

M. H. Marghny, Ahmed I. Taloba|arXiv (Cornell University)|Feb 27, 2014

Anomaly Detection Techniques and Applications参考文献 5被引用 9

一句话总结

本文提出了一种改进的遗传k-means算法（IGK），通过迭代优化聚类中心并移除远离其聚类中心的数据点，同时实现聚类和异常值检测。该方法通过遗传算法优化提升聚类中心估计的准确性，从而实现更鲁棒的聚类和有效的异常值识别（作为噪声），在准确性和稳定性方面相较于标准k-means表现出显著改进。

ABSTRACT

The outlier detection problem in some cases is similar to the classification problem. For example, the main concern of clustering-based outlier detection algorithms is to find clusters and outliers, which are often regarded as noise that should be removed in order to make more reliable clustering. In this article, we present an algorithm that provides outlier detection and data clustering simultaneously. The algorithmimprovesthe estimation of centroids of the generative distribution during the process of clustering and outlier discovery. The proposed algorithm consists of two stages. The first stage consists of improved genetic k-means algorithm (IGK) process, while the second stage iteratively removes the vectors which are far from their cluster centroids.

研究动机与目标

• 解决传统k-means在聚类过程中对异常值处理能力不足以及聚类中心估计不稳定的局限性。
• 开发一种统一框架，实现聚类与异常值检测的同步处理，减少对单独预处理步骤的依赖。
• 通过迭代移除远离聚类中心的数据点，降低异常值对聚类的影响，提升聚类的鲁棒性。
• 在聚类过程中利用遗传算法优化聚类中心位置，提升聚类中心估计的准确性。

提出的方法

• 该算法采用改进的遗传k-means（IGK）方法，基于遗传算法的原理（如选择、交叉和变异）对聚类中心进行初始化与优化。
• 使用基于最小化数据点与其分配聚类中心之间平方距离之和的适应度函数。
• 初始聚类完成后，该方法迭代识别并移除距离其分配聚类中心较远的向量，将其视为潜在异常值。
• 该过程持续进行，直到没有更多点满足异常值阈值条件，从而同时优化聚类结构与聚类中心的准确性。
• 异常值检测嵌入聚类循环中，每次移除后动态重新评估聚类分配。
• 该算法结合进化计算与k-means方法，在存在噪声数据的情况下实现更稳定、更精确的聚类结果。

实验结果

研究问题

• RQ1 如何将聚类与异常值检测有效整合为一个统一的处理流程？
• RQ2 与标准k-means相比，基于遗传算法的聚类中心初始化在多大程度上提升了聚类的稳定性和准确性？
• RQ3 对远离聚类中心的点进行迭代移除，是否能增强在噪声数据集中的聚类形成鲁棒性？
• RQ4 在异常值检测性能与收敛行为方面，所提出的IGK方法与传统k-means相比表现如何？

主要发现

• IGK算法通过遗传搜索优化聚类中心位置，在聚类准确性和稳定性方面优于标准k-means。
• 异常值检测被有效整合到聚类过程中，减少了对事后处理或独立异常值识别步骤的需求。
• 对远离聚类中心的点进行迭代移除，可形成更清晰的聚类结构，提升模型鲁棒性。
• 该方法在处理噪声数据方面表现更优，体现在对初始聚类中心选择的敏感性降低以及收敛性能提升。