[论文解读] An Effective Semi-supervised Divisive Clustering Algorithm

Teng Qiu, Yongjie Li|arXiv (Cornell University)|Dec 24, 2014

Advanced Algorithms and Applications被引用 4

一句话总结

本文提出了一种新颖的半监督分裂聚类算法（SDC），该算法从数据中构建最小生成树，将其转换为入树结构，并在标记数据的引导下递归地将树划分为子树，直接将所有点分配给聚类中心。SDC 完全自动、非迭代、无超参数，对噪声具有鲁棒性，且在高维和不规则形状聚类上表现优异，已在多个数据集上验证，性能强劲。

ABSTRACT

Nowadays, data are generated massively and rapidly from scientific fields as bioinformatics, neuroscience and astronomy to business and engineering fields. Cluster analysis, as one of the major data analysis tools, is therefore more significant than ever. We propose in this work an effective Semi-supervised Divisive Clustering algorithm (SDC). Data points are first organized by a minimal spanning tree. Next, this tree structure is transitioned to the in-tree structure, and then divided into sub-trees under the supervision of the labeled data, and in the end, all points in the sub-trees are directly associated with specific cluster centers. SDC is fully automatic, non-iterative, involving no free parameter, insensitive to noise, able to detect irregularly shaped cluster structures, applicable to the data sets of high dimensionality and different attributes. The power of SDC is demonstrated on several datasets.

研究动机与目标

• 解决传统聚类方法在处理高维、噪声和不规则形状数据时的局限性。
• 开发一种能有效整合有限标记数据以引导聚类过程的聚类方法。
• 创建一种完全自动、非迭代的算法，避免超参数调优，并对噪声具有鲁棒性。
• 实现对多样化数据类型中复杂非球形聚类结构的检测。

提出的方法

• 从输入数据点构建最小生成树（MST），以捕捉全局结构。
• 通过选择一个根节点并将边定向指向根，将 MST 转换为入树结构。
• 利用标记数据引导入树的分裂划分，生成子树，确保每个聚类中标签的一致性。
• 直接将每个子树中的所有数据点分配给聚类中心，无需迭代优化。
• 通过设计确保算法为非迭代且无超参数，仅依赖于入树结构和标签引导。
• 将该方法应用于高维和异构数据，保持对噪声和不规则形状的鲁棒性。

实验结果

研究问题

• RQ1 半监督分裂聚类算法能否有效利用有限的标记数据来提升聚类准确性和结构检测能力？
• RQ2 非迭代、无超参数的算法在高维数据中检测不规则形状聚类的能力如何？
• RQ3 该算法在面对噪声和数据属性变化时，其鲁棒性在多大程度上得以保持？
• RQ4 从 MST 到入树的转换是否能保留足够的拓扑结构以支持有效的分裂聚类？
• RQ5 在多样化数据集上，所提出的 SDC 方法与现有聚类算法相比性能如何？

主要发现

• SDC 算法成功检测到传统基于质心的方法常遗漏的不规则形状聚类。
• 由于其非迭代、基于结构的划分策略，该方法对噪声表现出强鲁棒性。
• SDC 在无需任何超参数调优或迭代优化的情况下实现了有效的聚类。
• 该算法在高维数据上表现出良好的可扩展性，在多种属性类型下保持性能稳定。
• 在多个数据集上的实证评估证实了该算法在真实场景中的有效性和稳定性。