[论文解读] Spectrally approximating large graphs with smaller graphs

Andreas Loukas, Pierre Vandergheynst|arXiv (Cornell University)|Feb 21, 2018

Complex Network Analysis Techniques被引用 7

一句话总结

本文提出了一种图粗化（graph coarsening）的谱近似框架，表明在一种新的受限谱相似性（RSS）条件下，粗化图的主特征值和特征子空间与原始图保持接近。RSS 性质通过基于随机匹配的粗化实现，从而在无需后续优化的情况下，实现可证明良好的谱聚类效果——为经验观察到的性能提供了理论依据。

ABSTRACT

How does coarsening affect the spectrum of a general graph? We provide conditions such that the principal eigenvalues and eigenspaces of a coarsened and original graph Laplacian matrices are close. The achieved approximation is shown to depend on standard graph-theoretic properties, such as the degree and eigenvalue distributions, as well as on the ratio between the coarsened and actual graph sizes. Our results carry implications for learning methods that utilize coarsening. For the particular case of spectral clustering, they imply that coarse eigenvectors can be used to derive good quality assignments even without refinement---this phenomenon was previously observed, but lacked formal justification.

研究动机与目标

• 理解图粗化对图拉普拉斯矩阵谱的影响，特别是在谱聚类和学习应用中的表现。
• 建立原始图与粗化图的特征值和特征子空间保持谱接近的理论条件。
• 为经验观察到的粗化特征向量在无需优化的情况下即可产生良好聚类结果的现象提供形式化解释。
• 引入并分析受限谱相似性（RSS）性质，作为图粗化中谱近似的关键工具。
• 量化图度分布与粗化比率对谱保持效果的影响。

提出的方法

• 引入受限谱相似性（RSS）性质，该性质通过特定向量集对粗化图与原始图拉普拉斯矩阵的谱行为进行约束。
• 通过随机匹配中的边收缩构建粗化图，确保 RSS 常数较小，且其大小依赖于度分布与粗化比率。
• 利用 RSS 性质推导原始图与粗化图之间主特征值与特征子空间偏差的上界。
• 应用扰动理论与矩阵分析，将特征向量近似误差与 RSS 常数及谱间隙关联起来。
• 通过边包含概率上的联合界与期望分析，对投影特征向量差的 Frobenius 范数进行上界估计。
• 通过费德勒能量（Fiedler energy）与谱距离推导聚类质量的 probabilistic 上界，将其与 RSS 及图结构关联。

实验结果

研究问题

• RQ1 在何种条件下，粗化图拉普拉斯矩阵的主特征值与特征子空间会与原始图保持谱接近？
• RQ2 粗化方法的选择——特别是随机匹配——如何影响谱近似的质量？
• RQ3 能否直接使用粗化特征向量生成高质量的聚类结果而无需后续优化？其原因是什么？
• RQ4 图的度分布与粗化比率在控制谱近似误差方面起什么作用？
• RQ5 如何利用受限谱相似性（RSS）性质来界定谱聚类结果的偏差？

主要发现

• 当 RSS 常数较小时，粗化图与原始图拉普拉斯矩阵的主特征值与特征子空间在谱上保持接近，而这一条件由随机匹配粗化方法所保证。
• RSS 常数依赖于度分布，且可通过粗化图与原始图大小之比进行控制，从而实现可调节的谱近似。
• 在谱聚类中，本文证明了从粗化图中提升的特征向量可生成无需优化即可达到良好质量的聚类结果，为先前的经验观察提供了理论支持。
• 粗化聚类的费德勒能量期望误差被一个与 (1 - e^(-4ϱ_max T/N)) 成比例的项所界定，该误差随粗化比率 T/N 增大而衰减。
• 特征向量差的期望 Frobenius 范数被一个与谱间隙 δ_K 及特征值之和相关的函数所界定，其中包含依赖于局部图结构与边权的校正项。
• 在有界度与强边势（heavy-edge potential）条件下，误差界可简化为包含平均度与谱间隙的形式，表明对图稀疏性的鲁棒性。