[论文解读] A New Index for Clustering Evaluation Based on Density Estimation

Gangli Liu|arXiv (Cornell University)|Jul 4, 2022

Advanced Clustering Algorithms Research被引用 4

一句话总结

本文提出了一种基于核密度估计的新型内部聚类评估指标，结合模糊指数与相似性指数以评估聚类质量。在145个数据集上的评估显示，该新指标显著优于六种现有指标（包括Calinski-Harabasz、Silhouette和Davies-Bouldin），在识别最优聚类方面展现出更高的准确性。

ABSTRACT

A new index for internal evaluation of clustering is introduced. The index is defined as a mixture of two sub-indices. The first sub-index $ I_a $ is called the Ambiguous Index; the second sub-index $ I_s $ is called the Similarity Index. Calculation of the two sub-indices is based on density estimation to each cluster of a partition of the data. An experiment is conducted to test the performance of the new index, and compared with six other internal clustering evaluation indices -- Calinski-Harabasz index, Silhouette coefficient, Davies-Bouldin index, CDbw, DBCV, and VIASCKDE, on a set of 145 datasets. The result shows the new index significantly improves other internal clustering evaluation indices.

研究动机与目标

• 为解决内部聚类评估中的挑战，即缺乏真实标签且现有指标常无法捕捉复杂聚类结构。
• 通过引入密度估计以建模聚类分布与分离程度，提升内部评估的可靠性与准确性。
• 开发一种新指标，结合从密度估计中衍生出的模糊性与相似性度量，实现更稳健的聚类质量评估。
• 在多样化的真实世界与合成数据集上，通过实证方法对比新指标与六种主流内部评估指标的表现。
• 探索该指标的变体，并评估边界检测与密度估计技术对性能的影响。

提出的方法

• 所提出的指标是两个子指标的加权混合：模糊指数（$I_a$），用于量化聚类密度区域之间的重叠；相似性指数（$I_s$），用于度量类内同质性。
• 每个聚类分别使用核密度估计（KDE）进行密度估计，实现对聚类结构与边界的概率建模。
• 模糊指数通过计算聚类间成对密度重叠来计算，其变体采用正重叠比例或正重叠均值作为衡量标准。
• 相似性指数基于每个聚类内数据点的对数似然值计算，经归一化后聚合，以反映聚类的紧凑性。
• 引入边界指数（$I_b$），通过基于聚类特定标准差的阈值化密度范围检测靠近聚类边界的点。
• 最终指标为$I_a$与$I_s$的组合，初步测试表明引入$I_b$仅带来微小性能提升，且未显著增加复杂度。

实验结果

研究问题

• RQ1 基于密度的内部评估指标是否能在识别最优聚类方面超越Calinski-Harabasz与Silhouette等传统指标？
• RQ2 同时整合模糊性（类间重叠）与相似性（类内紧凑性）是否能提升聚类评估性能？
• RQ3 模糊与相似性子指标的不同变体对整体性能有何影响？
• RQ4 引入边界检测机制是否能增强指标识别较差聚类的能力？
• RQ5 该新指标在具有不同聚类形状、密度与噪声水平的多样化数据集上的表现如何？

主要发现

• 所提出的指标在145个数据集的基准测试中，显著优于六种成熟的内部聚类评估指标——Calinski-Harabasz、Silhouette、Davies-Bouldin、CDbw、DBCV与VIASCKDE。
• 该指标在识别最优聚类方面表现更优，尤其在重叠或非球形聚类场景中，传统指标失效的情况下优势明显。
• 模糊与相似性指标的变体（如$I_{a\_v1}$、$I_{a\_v2}$与$I_{s\_v1}$）与主指标性能相当，表明其对参数化的鲁棒性。
• 边界指数（$I_b$）在识别定义不明确的聚类方面具有潜力，但其引入仅带来微小的整体性能提升。
• 由于需对每个聚类进行KDE拟合，该指标在计算上比非基于密度的指标更耗时，但可通过并行化加速。
• 初步结果表明，该指标在多样化数据分布下保持强性能，但其在高维空间及噪声环境下的行为仍有待进一步研究。