[论文解读] Generating a Diverse Set of High-Quality Clusterings

Jeff M. Phillips, Parasaran Raman+1 more|arXiv (Cornell University)|Jul 29, 2011

Advanced Clustering Algorithms Research参考文献 9被引用 7

一句话总结

本文提出一种两阶段框架，通过首先按质量比例采样分区，再利用 k-center 聚类选择 k 个代表性分区，生成一组多样化且高质量的聚类。该方法在多样性与质量方面表现优异，75% 的分区与最近的代表性分区相距甚远，且 75% 的生成分区在相对于参考分区的质量上优于共识方法。

ABSTRACT

We provide a new framework for generating multiple good quality partitions (clusterings) of a single data set. Our approach decomposes this problem into two components, generating many high-quality partitions, and then grouping these partitions to obtain k representatives. The decomposition makes the approach extremely modular and allows us to optimize various criteria that control the choice of representative partitions.

研究动机与目标

• 为解决从单一数据集中生成多个多样化且高质量聚类的挑战，克服现有方法过度依赖初始分区或未能充分探索高质量分区全空间的局限。
• 将聚类的质量与多样性解耦，实现对分区空间更全面的探索，避免对先前生成解的偏向。
• 确保最终 k 个代表性聚类能够完整捕捉高质量分区的整体格局，避免冗余，并提升对数据结构的理解。
• 提供一个模块化框架，支持对选择代表性分区的各种标准进行优化，增强针对不同分析需求的灵活性。

提出的方法

• 该方法首先使用马尔可夫链蒙特卡洛方法生成大量 m = 4000 个分区（剔除前 1000 个后），从所有分区的空间中按其质量比例采样，质量通过核距离衡量。
• 对生成的分区应用 k-center 聚类算法（Gonzalez 方法），选择 k 个代表性分区，以最大化彼此之间的最小距离，确保多样性。
• 将剩余的 3990 个分区分配给其最近的代表性分区，并评估每个代表性分区的质量及其与 LiftEMD 的距离。
• 该框架使用 LiftEMD（提升的地球移动距离）作为分区之间的距离度量，实现对聚类结构的稳健比较。
• 在基准数据集（Iris、Yale Face、2D5C）上评估该方法，使用参考分区进行质量比较，并利用多维缩放可视化分区空间的结构。
• 将该方法与基于 LiftSSD 的共识聚类进行比较，输入来自 k-means、层次聚类方法和 Ward 方法，使用相对质量（核距离比）和 LiftEMD 作为评估指标。

实验结果

研究问题

• RQ1 是否一种将质量与多样性在聚类生成中解耦的两阶段框架，能够产生比现有方法更全面且更具代表性的高质量分区集合？
• RQ2 所提方法在多大程度上确保了最终 k 个代表性聚类之间的多样性，以它们与最近代表的 LiftEMD 距离衡量？
• RQ3 所生成代表性分区的质量与基于共识的方法相比如何，特别是在相对于参考分区的相对核距离方面？
• RQ4 按质量比例的采样策略是否能有效捕捉不同数据结构和聚类模式下的高质量分区？

主要发现

• 在 Iris 数据集中，约 75% 的生成分区与最近代表的 LiftEMD 距离大于 1.3，表明具有很强的多样性。
• 生成分区的质量分布呈正态分布，相对于参考分区的均值在 0.62 至 0.80 之间，表明质量一致且较高。
• 在 75% 的情况下，生成分区的质量超过了使用多种聚类算法作为输入的 LiftSSD 所生成的共识分区的质量。
• 使用多维缩放生成的可视化结果表明，每个代表性分区周围都形成了分离良好的分区簇，证实了分区空间中的空间多样性。
• 在 Yale Face 数据集上，代表性分区成功捕捉了基于姿态和基于人物的聚类结构，展示了该方法恢复有意义数据模式的能力。
• 该方法通过确保输入分区集合不局限于少数聚类算法或种子，从而避免了对高质量分区空间的覆盖局限，优于基于共识的方法。