[论文解读] Hierarchical Affinity Propagation

Inmar E. Givoni, Clement Chung+1 more|arXiv (Cornell University)|Feb 14, 2012

Genomics and Phylogenetic Studies参考文献 24被引用 41

一句话总结

本文提出分层亲和传播（HAP），一种基于多层层次结构中消息传递的分层聚类原理性扩展方法。在模拟HIV突变数据和真实HIV序列上，HAP优于贪心的逐层方法，实现了更优的目标函数值，并生成与地理分布和病毒亚型一致的有意义聚类，同时在质谱数据上也表现优异。

ABSTRACT

Affinity propagation is an exemplar-based clustering algorithm that finds a set of data-points that best exemplify the data, and associates each datapoint with one exemplar. We extend affinity propagation in a principled way to solve the hierarchical clustering problem, which arises in a variety of domains including biology, sensor networks and decision making in operational research. We derive an inference algorithm that operates by propagating information up and down the hierarchy, and is efficient despite the high-order potentials required for the graphical model formulation. We demonstrate that our method outperforms greedy techniques that cluster one layer at a time. We show that on an artificial dataset designed to mimic the HIV-strain mutation dynamics, our method outperforms related methods. For real HIV sequences, where the ground truth is not available, we show our method achieves better results, in terms of the underlying objective function, and show the results correspond meaningfully to geographical location and strain subtypes. Finally we report results on using the method for the analysis of mass spectra, showing it performs favorably compared to state-of-the-art methods.

研究动机与目标

• 解决生物学、传感器网络和运筹学等领域对原理性分层聚类的需求。
• 克服贪心的逐层聚类方法因无法捕捉全局结构而存在的局限性。
• 开发一种高效处理分层图模型中高阶势函数的推理算法。
• 实现同时识别数据多层次结构（从大组到细分子组）的聚类。
• 在真实世界数据上展示改进性能，尤其在真实标签有限或不可用的情况下。

提出的方法

• 通过引入具有分层势函数的多层图模型，将亲和传播框架扩展至支持分层聚类。
• 设计一种消息传递算法，实现跨层级及层级内部的责任与可用性消息传播。
• 引入高阶势函数以建模不同层级间聚类之间的依赖关系。
• 采用变分推理方法近似分区函数，实现可计算的优化。
• 将目标函数公式化为联合优化代表性样本选择与分层聚类分配。
• 通过结构化消息传递确保在高阶交互复杂性下仍具备计算效率。

实验结果

研究问题

• RQ1 亲和传播能否通过原理性推理扩展至支持分层聚类？
• RQ2 所提出的分层方法与贪心的逐层聚类方法相比性能如何？
• RQ3 在真实标签不可用的情况下，该方法能否恢复HIV序列数据中具有生物学意义的聚类？
• RQ4 与最先进方法相比，该方法在质谱数据上能否实现更优的聚类质量？
• RQ5 所得聚类与已知生物学因素（如地理起源和病毒亚型）的匹配程度如何？

主要发现

• HAP在模拟HIV毒株突变动态的合成数据集上优于贪心聚类技术。
• 在真实HIV序列上，HAP在底层目标函数值上优于对比方法。
• HAP生成的聚类与已知HIV毒株的地理来源和病毒亚型具有高度对应性。
• HAP在质谱数据上表现出色，优于最先进聚类方法。
• 该方法成功捕捉了数据的多级结构，揭示了广泛的分组与精细的子结构。
• 尽管模型中引入了高阶势函数，消息传递算法仍保持高效。