[论文解读] Clustering Via Nonparametric Density Estimation: the R Package pdfCluster

Adelchi Azzalini, Giovanna Menardi|arXiv (Cornell University)|Jan 28, 2013

Bayesian Methods and Mixture Models参考文献 14被引用 18

一句话总结

本文介绍了 R 包 pdfCluster，该包通过核密度方法进行非参数密度估计，实现聚类分析。通过将聚类识别为数据中的高密度区域，该方法避免了对聚类形状的参数假设，并通过多维尺度变换和自适应带宽选择，在连续型和混合类型数据上均表现出稳健的性能。

ABSTRACT

The R package pdfCluster performs cluster analysis based on a nonparametric estimate of the density of the observed variables. After summarizing the main aspects of the methodology, we describe the features and the usage of the package, and finally illustrate its working with the aid of two datasets.

研究动机与目标

• 开发一种灵活的非参数聚类方法，不假设聚类形状的具体参数形式。
• 实现一个用户友好的 R 包 pdfCluster，用于基于核密度估计的密度聚类。
• 通过多维尺度变换，将基于密度的聚类方法扩展应用于混合类型数据（连续变量和分类变量）。
• 通过自适应带宽选择和基于图的层次聚类，提供稳健且高效的聚类方法。
• 在真实数据集上展示该方法的性能，包括一个包含混合变量的植物性状数据集。

提出的方法

• 使用核密度估计对多变量数据的潜在密度进行非参数估计。
• 通过估计密度的水平集识别聚类，即将聚类视为高密度点的连通区域。
• 使用德劳内三角剖分构建图结构，用于密度峰的层次聚类。
• 采用自适应带宽选择，以提高在数据密度变化区域的密度估计效果。
• 通过多维尺度变换（MDS），利用 Gower 相异度将混合类型数据转换为连续坐标。
• 将得到的 MDS 坐标作为 pdfCluster 算法的输入，从而实现对混合数据的适用。

实验结果

研究问题

• RQ1 如何有效利用非参数密度估计在不假设聚类形状特定参数形式的前提下识别聚类？
• RQ2 当传统基于距离的方法不直接适用时，基于密度的聚类在混合类型数据上的表现如何？
• RQ3 带宽选择（全局 vs. 自适应）在聚类结果的稳定性与准确性方面有何影响？
• RQ4 pdfCluster 包能否提供一种可靠、高效且可扩展的基于密度的聚类解决方案？
• RQ5 pdfCluster 的结果与真实世界数据集上已建立的距离基聚类方法相比如何？

主要发现

• pdfCluster 包在植物性状数据集中成功识别出两个主要聚类，其中一个聚类包含 136 个观测值中的 128 个。
• 该方法检测到一个仅包含 8 个观测值的小聚类，表明其在识别稀有或异常值群组方面具有潜力。
• 采用自适应带宽选择和全局平滑处理可提高聚类稳定性，尤其是在低密度区域。
• pdfCluster 的聚类结果与 agnes（ward）链接方法的六聚类解具有高度一致性，特别是将聚类 {1,3,5,6} 和 {2,4} 分别归为一组。
• 通过重用预先计算的图结构，pdfCluster 包的计算效率显著提升，尤其在大规模数据集上表现突出。