[论文解读] SF-GRASS: Solver-Free Graph Spectral Sparsification

Ying Zhang, Zhiqiang Zhao+1 more|arXiv (Cornell University)|Aug 17, 2020

Advanced Graph Neural Networks参考文献 30被引用 6

一句话总结

本文提出 SF-GRASS，一种无需求解器的谱图稀疏化框架，通过谱图粗化与图信号处理，利用局部谱嵌入识别谱关键边。该方法仅依赖稀疏矩阵-向量乘法，实现近乎线性时间复杂度，无需快速拉普拉斯求解器即可生成高质量的谱稀疏化图，在真实世界图和电路网络上展现出优于先前方法的效率与精度。

ABSTRACT

Recent spectral graph sparsification techniques have shown promising performance in accelerating many numerical and graph algorithms, such as iterative methods for solving large sparse matrices, spectral partitioning of undirected graphs, vectorless verification of power/thermal grids, representation learning of large graphs, etc. However, prior spectral graph sparsification methods rely on fast Laplacian matrix solvers that are usually challenging to implement in practice. This work, for the first time, introduces a solver-free approach (SF-GRASS) for spectral graph sparsification by leveraging emerging spectral graph coarsening and graph signal processing (GSP) techniques. We introduce a local spectral embedding scheme for efficiently identifying spectrally-critical edges that are key to preserving graph spectral properties, such as the first few Laplacian eigenvalues and eigenvectors. Since the key kernel functions in SF-GRASS can be efficiently implemented using sparse-matrix-vector-multiplications (SpMVs), the proposed spectral approach is simple to implement and inherently parallel friendly. Our extensive experimental results show that the proposed method can produce a hierarchy of high-quality spectral sparsifiers in nearly-linear time for a variety of real-world, large-scale graphs and circuit networks when compared with the prior state-of-the-art spectral method.

研究动机与目标

• 解决先前谱稀疏化方法依赖难以实现且速度缓慢的拉普拉斯求解器所导致的计算瓶颈。
• 开发一种可扩展、适合并行处理的谱稀疏化框架，避免对迭代求解器的依赖。
• 通过粗图上的多级粗化与谱扰动分析，实现高质量的谱稀疏化。
• 在真实世界图和工业级电网验证工作负载上展示该方法的有效性。
• 提供一种简单、高效且可扩展的替代方案，用于现有谱稀疏化技术。

提出的方法

• 该方法采用多级谱粗化流水线，逐步减小图的规模，同时保留关键的谱特性。
• 通过分析粗图上的低通滤波信号，利用局部谱嵌入识别谱关键边。
• 在最粗的图上应用基于谱扰动的边重要性估计，以提取保留最小特征值的超稀疏稀疏化图。
• 通过迭代细化将稀疏化图映射回更细的层级，形成一系列谱精确且稀疏的图层级结构。
• 核心计算仅使用稀疏矩阵-向量乘法（SpMVs）实现，确保简洁性与可并行化。
• 该框架利用图信号处理原理，将粗化视为一系列带宽递减的低通滤波器级联。

实验结果

研究问题

• RQ1 是否可以在不依赖快速拉普拉斯矩阵求解器的情况下实现谱稀疏化？
• RQ2 如何在无求解器的情况下高效识别谱关键边？
• RQ3 多级粗化与图信号处理能否结合使用，在近乎线性时间内生成高质量的谱稀疏化图？
• RQ4 无求解器稀疏化方法在速度与谱精度方面与最先进方法相比表现如何？
• RQ5 所提出的框架能否加速真实世界应用，如无向量电网验证？

主要发现

• SF-GRASS 实现了谱稀疏化的近乎线性时间复杂度，显著优于依赖迭代拉普拉斯求解的方法。
• 在 ibmpg6 电网上，SF-GRASS 将总验证时间从 17.76 秒（无稀疏化时的多级方法）降低至 3.05 秒，电压降误差仅为 3.83%。
• 对于大型 thupg2 电网（900 万个节点），SF-GRASS 将 LP 求解时间从 14.26 秒减少至 9.90 秒，同时保持 2.64% 的相对误差。
• 粗图上的边采样概率更高，证实了更粗的边对谱保持更为关键。
• 如图 9 所示，该方法在相同设置下产生的稀疏化图收敛速度优于 GRASS。
• 该框架在多种真实世界图和电路网络（包括 3D 热力网格与工业级电网）中均表现出鲁棒性与可扩展性。