[論文レビュー] SF-GRASS: Solver-Free Graph Spectral Sparsification

Ying Zhang, Zhiqiang Zhao+1 more|arXiv (Cornell University)|Aug 17, 2020

Advanced Graph Neural Networks参考文献 30被引用数 6

ひとこと要約

本稿では、スペクトル的グラフ粗化とグラフ信号処理を活用して、局所的スペクトル埋め込みを用いてスペクトル的に重要な辺を同定する、ソルバフリーなスペクトル的グラフスパース化フレームワークであるSF-GRASSを提案する。疎行列-ベクトル乗算にのみ依存することで、ほぼ線形時間計算量を達成し、高速ラプラシアンソルバを必要とせず、実世界のグラフおよび回路ネットワークにおいて、従来手法を上回る効率性と精度を実現する。

ABSTRACT

Recent spectral graph sparsification techniques have shown promising performance in accelerating many numerical and graph algorithms, such as iterative methods for solving large sparse matrices, spectral partitioning of undirected graphs, vectorless verification of power/thermal grids, representation learning of large graphs, etc. However, prior spectral graph sparsification methods rely on fast Laplacian matrix solvers that are usually challenging to implement in practice. This work, for the first time, introduces a solver-free approach (SF-GRASS) for spectral graph sparsification by leveraging emerging spectral graph coarsening and graph signal processing (GSP) techniques. We introduce a local spectral embedding scheme for efficiently identifying spectrally-critical edges that are key to preserving graph spectral properties, such as the first few Laplacian eigenvalues and eigenvectors. Since the key kernel functions in SF-GRASS can be efficiently implemented using sparse-matrix-vector-multiplications (SpMVs), the proposed spectral approach is simple to implement and inherently parallel friendly. Our extensive experimental results show that the proposed method can produce a hierarchy of high-quality spectral sparsifiers in nearly-linear time for a variety of real-world, large-scale graphs and circuit networks when compared with the prior state-of-the-art spectral method.

研究の動機と目的

• 高速ラプラシアンソルバが難しく実装され、遅いという、従来のスペクトル的スパース化手法の計算ボトルネックを解消すること。
• 反復的ソルバに依存しない、スケーラブルで並列処理に適したスペクトル的スパース化フレームワークの開発。
• 多層粗化と粗いグラフ上のスペクトル摂動解析を組み合わせることで、高品質なスペクトル的スパースファイアを実現すること。
• 実世界のグラフおよび産業用送電網検証ワークロードにおいて、本手法の有効性を実証すること。
• 既存のスペクトル的スパース化技術に対する、単純で効率的かつ拡張性のある代替手法を提供すること。

提案手法

• 多層スペクトル的粗化パイプラインを採用し、グラフサイズを段階的に縮小しながら、主要なスペクトル的性質を保持する。
• 粗いグラフ上で低域フィルタリングされた信号を分析することで、局所的スペクトル埋め込みを用いてスペクトル的に重要な辺を同定する。
• 粗いグラフ上でスペクトル摂動に基づくエッジ重要度推定を適用し、最小固有値を保持する超疎スパースファイアを抽出する。
• スパースファイアは反復的精錬を経て、細かいレベルに再マッピングされ、スペクトル的に正確な疎グラフの階層を形成する。
• コア計算は疎行列-ベクトル乗算（SpMVs）のみに実装されており、シンプルさと並列処理可能性を保証する。
• フレームワークはグラフ信号処理の原則を活用し、粗化を帯域幅が減少する低域フィルタの連鎖とみなす。

実験結果

リサーチクエスチョン

• RQ1 高速ラプラシアン行列ソルバに依存せずにスペクトル的スパース化を達成できるか？
• RQ2 ソルバフリーな方法で、スペクトル的に重要な辺を効率的に同定できるか？
• RQ3 多層粗化とグラフ信号処理を組み合わせることで、ほぼ線形時間で高品質なスペクトル的スパースファイアを生成できるか？
• RQ4 ソルバフリーなスパース化の性能は、最先端手法と比較して、速度およびスペクトル的正確性の面で優れているか？
• RQ5 提案されたフレームワークは、ベクトルレス送電網検証などの実世界の応用を加速できるか？

主な発見

• SF-GRASSはスペクトル的スパース化においてほぼ線形時間計算量を達成し、反復的ラプラシアンソルバを必要とする手法を著しく上回る。
• ibmpg6送電網において、SF-GRASSは全検証時間を17.76秒（多層法無し）から3.05秒に短縮し、電圧降下の誤差はたった3.83％にとどまった。
• 900万ノードを有する大規模なthupg2送電網において、SF-GRASSはLP解法時間を14.26秒から9.90秒に短縮し、相対誤差2.64％を維持した。
• 粗いグラフ上のエッジサンプリング確率が高かったことから、粗いエッジがスペクトル保存においてより重要であることが確認された。
• 図9に示すように、同じ設定下でSF-GRASSはGRASSよりも優れた収束レートを示した。
• 3次元熱的メッシュおよび産業用送電網を含む、多様な実世界のグラフおよび回路ネットワークにおいて、本フレームワークは頑健性とスケーラビリティを示した。