[论文解读] Local algorithms for interactive clustering

Pranjal Awasthi, Maria Florina Balcan+1 more|arXiv (Cornell University)|Dec 24, 2013

Algorithms and Data Compression参考文献 26被引用 34

一句话总结

本文提出了一种局部、交互式的聚类算法，通过仅依赖用户指定的分裂与合并请求，迭代地对初始聚类进行细化，每一步仅做最小的局部修改。在自然稳定性假设下，算法可证明在少量请求内收敛至目标聚类，且在真实数据集上表现出强劲的实验性能，尤其当结合稳健的平均链接聚类树预处理步骤时效果更佳。

ABSTRACT

We study the design of interactive clustering algorithms for data sets satisfying natural stability assumptions. Our algorithms start with any initial clustering and only make local changes in each step; both are desirable features in many applications. We show that in this constrained setting one can still design provably efficient algorithms that produce accurate clusterings. We also show that our algorithms perform well on real-world data.

研究动机与目标

• 通过设计从初始聚类出发、仅对用户反馈作出局部修改的算法，解决聚类中的实际约束问题。
• 建立交互式聚类的理论模型，用户仅发出分裂与合并请求，无需指定确切的聚类分配。
• 在自然稳定性假设下确保收敛至目标聚类，且复杂度随聚类误差呈多项式关系，随数据规模对数增长。
• 通过真实数据集上的实验，证明算法的实际有效性，展示快速收敛性及对噪声用户反馈的鲁棒性。
• 通过构建更稳健的平均链接聚类树，提升未修剪数据集上的性能，减少分层预处理中的不一致性。

提出的方法

• 使用平均链接聚类作为预处理步骤，构建与目标聚类一致的全局树结构，前提是满足稳定性假设。
• 将算法更新限制在用户指定的分裂或合并请求所涉及的聚类内部点重新分配，确保仅进行局部修改。
• 为两种模型设计算法：η-合并模型（对合并质量施加约束）和无约束合并模型（允许任意合并请求）。
• 通过首先识别密集点群（'blobs'），在每个群内构建平均链接聚类树，再合并各棵树，以减少异常值引起的不一致性，实现稳健的树构建方法。
• 利用分层树结构引导局部修改，确保每次分裂或合并操作均与底层目标聚类保持一致。
• 使用标准聚类指标评估性能：欠聚类误差与过聚类误差，以及相关聚类误差。

实验结果

研究问题

• RQ1 交互式聚类算法是否能仅通过局部更新和用户指定的分裂/合并请求收敛至目标聚类？
• RQ2 在稳定性假设下，编辑请求的数量如何随初始聚类误差（欠聚类与过聚类）变化？
• RQ3 稳健的平均链接聚类树在存在噪声或不一致分层结构的未修剪数据集上，能在多大程度上提升收敛性能？
• RQ4 所提出的算法是否能在每一步保持或减少误差，避免在交互式优化过程中出现退化？
• RQ5 在真实世界数据集上，特别是当初始聚类已较准确时，这些算法的实际表现如何？

主要发现

• 在自然稳定性假设下，算法收敛至目标聚类所需的请求数量，随欠聚类与过聚类误差呈多项式关系，随数据点数量对数增长。
• 对于修剪过的数据集，即使初始误差适中，算法也能在少于100次编辑请求内达到高精度。
• 使用稳健的平均链接聚类树显著提升了未修剪数据集上的性能，有效减少了异常值引起的层次结构不一致性。
• 在初始误差较小的数据集上（例如，欠聚类与过聚类误差为5–20），在η-合并模型和无约束合并模型下，算法均能在100次请求内收敛。
• 图2中的算法无法在每一步保持聚类误差，而图1、图3和图7中的算法则从不增加误差。
• 实验结果表明，在无约束合并模型中，η值越高，性能越好；且无论η值设置如何，该方法在修剪数据集上均表现尤为出色。