[论文解读] Fuzzy c-Means Clustering for Persistence Diagrams

Thomas Davies, Jack Aspinall+2 more|arXiv (Cornell University)|Jun 4, 2020

Topological and Geometric Data Analysis参考文献 68被引用 5

一句话总结

本文提出针对持久性图的模糊c-均值聚类，通过利用持久性图空间中的距离，将FCM算法扩展至拓扑数据分析。该方法具备收敛性保证，并在聚类拓扑相似数据方面表现优异，应用于预训练模型选择和材料科学中的晶格分类，利用概率隶属度值实现。

ABSTRACT

Persistence diagrams concisely represent the topology of a point cloud whilst having strong theoretical guarantees, but the question of how to best integrate this information into machine learning workflows remains open. In this paper we extend the ubiquitous Fuzzy c-Means (FCM) clustering algorithm to the space of persistence diagrams, enabling unsupervised learning that automatically captures the topological structure of data without the topological prior knowledge or additional processing of persistence diagrams that many other techniques require. We give theoretical convergence guarantees that correspond to the Euclidean case, and empirically demonstrate the capability of our algorithm to capture topological information via the fuzzy RAND index. We end with experiments on two datasets that utilise both the topological and fuzzy nature of our algorithm: pre-trained model selection in machine learning and lattices structures from materials science. As pre-trained models can perform well on multiple tasks, selecting the best model is a naturally fuzzy problem; we show that fuzzy clustering persistence diagrams allows for model selection using the topology of decision boundaries. In materials science, we classify transformed lattice structure datasets for the first time, whilst the probabilistic membership values let us rank candidate lattices in a scenario where further investigation requires expensive laboratory time and expertise.

研究动机与目标

• 解决将持久性图——数据的拓扑摘要——集成到机器学习工作流中的挑战，而无需依赖希尔伯特空间嵌入或拓扑先验。
• 实现能够同时捕捉模糊（软）聚类隶属关系与数据内在拓扑结构的无监督学习。
• 为非希尔伯特空间中持久性图空间的模糊c-均值提供理论收敛保证，类似于欧几里得空间中的标准情况。
• 在两个领域中展示实际应用价值：基于决策边界拓扑结构选择预训练深度学习模型，以及对材料科学中的晶格结构进行分类。
• 通过概率隶属度值实现候选晶格的排序，减少材料科学中昂贵的实验验证依赖。

提出的方法

• 通过使用与拓扑数据分析兼容的距离函数，将模糊c-均值（FCM）算法扩展至持久性图空间。
• 采用弗雷chet均值作为聚类中心更新规则，并将其适配至持久性图的度量空间。
• 应用收敛性分析，表明所有收敛子序列均收敛至局部最小值或鞍点，与标准FCM的收敛性一致。
• 利用持久性图上的多种距离（如Wasserstein距离、瓶颈距离）通过模糊RAND指数评估聚类质量。
• 利用概率隶属度值对聚类分配进行排序，尤其在材料科学中对候选晶格进行优先排序具有重要意义。
• 将该算法集成至两个实际应用场景：基于决策边界拓扑结构对预训练模型进行聚类，以及对几何对称性不变的变换晶格结构进行分类。

实验结果

研究问题

• RQ1 模糊c-均值算法能否在持久性图空间中成功扩展，同时保持理论收敛保证？
• RQ2 在使用模糊隶属度时，持久性图上距离度量的选择如何影响聚类质量？
• RQ3 对真实数据集（如材料科学中的晶格和深度学习模型的决策边界）而言，持久性图的模糊聚类能否有效捕捉拓扑相似性？
• RQ4 模糊聚类中的更高隶属度值是否对应机器学习任务中更好的泛化性能？
• RQ5 在聚类晶格结构时，该算法能否保持对几何变换（旋转、反射、平移）的不变性？

主要发现

• 在所有825个测试的随机实例中，所提出的持久性图模糊c-均值聚类均实现收敛，支持理论收敛保证。
• 聚类质量（以模糊RAND指数衡量）随计算成本更高的距离度量（如精确Wasserstein距离）提升而改善，随近似计算而下降，证实该方法对距离保真度的敏感性。
• 在变换后的晶格结构数据集上，FPDCluster在隶属度分配中实现100%的准确率，而几何聚类方法因缺乏对称性不变性而失败。
• 在预训练模型选择中，基于决策边界拓扑结构处于同一聚类且隶属度值更高的模型，在未见任务上泛化性能更优，表明拓扑结构与模型性能之间存在直接关联。
• 概率隶属度值可有效对候选晶格进行排序，使材料科学中能优先筛选最可能的候选结构，减少对昂贵实验验证的依赖。
• 在所有测试场景——非变换、旋转、反射和平移晶格——中，FPDCluster均保持正确的聚类分配，而ADMM和LP等基线方法在几何变换下失效。