[论文解读] Spectral Sparsification of Simplicial Complexes for Clustering and Label Propagation

Braxton Osting, Sourabh Palande+1 more|arXiv (Cornell University)|Aug 28, 2017

Topological and Geometric Data Analysis参考文献 47被引用 5

一句话总结

本文提出了一种单纯复形的谱稀疏化方法，可保留上拉普拉斯算子的谱特性，从而实现聚类和标签传播等谱学习算法的高效应用。该方法通过一种新型广义有效电阻，将Spielman和Srivastava的图稀疏化理论推广至高阶结构，实验表明稀疏化后的单纯复形性能得以保持。

ABSTRACT

As a generalization of the use of graphs to describe pairwise interactions, simplicial complexes can be used to model higher-order interactions between three or more objects in complex systems. There has been a recent surge in activity for the development of data analysis methods applicable to simplicial complexes, including techniques based on computational topology, higher-order random processes, generalized Cheeger inequalities, isoperimetric inequalities, and spectral methods. In particular, spectral learning methods (e.g. label propagation and clustering) that directly operate on simplicial complexes represent a new direction for analyzing such complex datasets. To apply spectral learning methods to massive datasets modeled as simplicial complexes, we develop a method for sparsifying simplicial complexes that preserves the spectrum of the associated Laplacian matrices. We show that the theory of Spielman and Srivastava for the sparsification of graphs extends to simplicial complexes via the up Laplacian. In particular, we introduce a generalized effective resistance for simplices, provide an algorithm for sparsifying simplicial complexes at a fixed dimension, and give a specific version of the generalized Cheeger inequality for weighted simplicial complexes. Finally, we introduce higher-order generalizations of spectral clustering and label propagation for simplicial complexes and demonstrate via experiments the utility of the proposed spectral sparsification method for these applications.

研究动机与目标

• 通过稀疏化降低计算成本，实现在大规模单纯复形上的可扩展谱学习。
• 通过上拉普拉斯算子与广义有效电阻，将谱图稀疏化理论推广至单纯复形。
• 开发直接作用于单纯复形的谱聚类与标签传播的高阶推广方法。
• 证明稀疏化后的复形能保持原始复形的关键谱特性和算法性质。
• 建立谱稀疏化与单纯复形中的同调结构或Hodge理论结构之间的理论联系。

提出的方法

• 基于上拉普拉斯算子，为单纯形提出一种广义有效电阻，将图论概念扩展至高阶结构。
• 开发一种在固定维度下稀疏化单纯复形的算法，同时保留上拉普拉斯算子的谱特性。
• 通过上拉普拉斯算子与广义有效电阻，将Spielman和Srivastava的谱稀疏化框架适配至单纯复形。
• 为加权单纯复形引入广义切赫不等式，建立谱特性与组合展开性的联系。
• 将稀疏化后的复形应用于高阶标签传播与谱聚类，使用边级或单纯形级的亲和矩阵。
• 利用单纯复形的对偶图建模跨高阶元素的标签传播，以单纯形为基础的转移替代基于顶点的转移。

实验结果

研究问题

• RQ1 能否在保留上拉普拉斯算子谱特性的前提下，将图的谱稀疏化推广至单纯复形？
• RQ2 单纯复形中有效电阻的适当高阶类比是什么？它是否支持谱稀疏化？
• RQ3 如何将谱聚类与标签传播推广至直接作用于单纯复形的算法？
• RQ4 稀疏化是否能保持标签传播与聚类算法在单纯复形上的收敛性与输出结果？
• RQ5 谱稀疏化与单纯复形中的Hodge理论或同调结构之间存在何种关系？

主要发现

• 为单纯形提出的广义有效电阻使单纯复形的谱稀疏化成为可能，实现了图论概念向高阶结构的扩展。
• 所提出的稀疏化算法保留了上拉普拉斯算子的谱特性，确保关键谱性质得以维持。
• 可在单纯复形上通过边级或单纯形级转移矩阵表述高阶标签传播，类似于基于顶点的马尔可夫链。
• 在哑铃复形上的实验表明，稀疏化后标签传播的结果保持不变，验证了该方法的保真度。
• 为加权单纯复形推导出广义切赫不等式，建立了谱间隙与组合展开性之间的联系。
• 该方法通过降低计算复杂度，实现了在大规模单纯复形上高效应用谱聚类与标签传播。