[论文解读] Adaptive Affinity Propagation Clustering

Kaijun Wang, Junying Zhang+3 more|ArXiv.org|May 8, 2008

Gene expression and cancer classification参考文献 9被引用 110

一句话总结

本文提出自适应相似度传播聚类方法，以克服标准相似度传播聚类的两个关键局限：难以设置最优偏好值，以及无法自动解决振荡问题。该方法采用自适应偏好扫描、动态阻尼因子调整和振荡逃逸机制，在合成数据集和真实世界数据集上的聚类质量显著优于原始AP算法。

ABSTRACT

Affinity propagation clustering (AP) has two limitations: it is hard to know what value of parameter 'preference' can yield an optimal clustering solution, and oscillations cannot be eliminated automatically if occur. The adaptive AP method is proposed to overcome these limitations, including adaptive scanning of preferences to search space of the number of clusters for finding the optimal clustering solution, adaptive adjustment of damping factors to eliminate oscillations, and adaptive escaping from oscillations when the damping adjustment technique fails. Experimental results on simulated and real data sets show that the adaptive AP is effective and can outperform AP in quality of clustering results.

研究动机与目标

• 解决标准相似度传播聚类中选择最优偏好值的挑战，该值对聚类数量有显著影响。
• 解决聚类过程中消息传递持续振荡的问题，该问题可能导致无法收敛。
• 开发一种自动化机制，检测并逃离振荡行为，当阻尼调整失效时启动。
• 在无需人工调参的情况下，提升在多样化数据集上的聚类性能，包括准确性和稳定性。

提出的方法

• 在偏好参数的取值范围内进行自适应扫描，以探索不同潜在的聚类数量。
• 在消息传递过程中动态调整阻尼因子，以稳定收敛并减少振荡。
• 通过监控消息更新来检测振荡行为，并在不稳定性持续存在时触发纠正措施。
• 当阻尼调整无法解决振荡时，实施扰动消息传递过程的逃逸机制。
• 将偏好扫描与阻尼自适应整合到统一框架中，实现无需人工干预的全自动运行。
• 基于消息变化阈值设定收敛准则，以确定算法何时应终止。

实验结果

研究问题

• RQ1 在相似度传播中，实现最佳聚类解的最优偏好值是什么？如何实现其自动确定？
• RQ2 如何在无需人工调参的情况下检测并解决相似度传播消息传递过程中的振荡？
• RQ3 自适应阻尼策略是否能有效稳定收敛过程并提升聚类质量？
• RQ4 所提出的方法在真实和模拟数据集上的聚类准确性和鲁棒性方面是否优于标准相似度传播聚类？

主要发现

• 自适应AP方法通过扫描偏好参数空间成功识别出最优聚类解，且无需预先知晓聚类数量。
• 动态阻尼因子调整有效减少了消息传递阶段的振荡，并加速了收敛。
• 当阻尼调整无法解决振荡时，逃逸机制使算法能够恢复并收敛到稳定解。
• 在模拟和真实世界数据集上，自适应AP方法的聚类质量显著优于原始相似度传播算法。
• 该方法表现出强鲁棒性和自动化能力，显著减少了对人工参数调优的依赖，同时保持了高聚类准确性。