[論文レビュー] Graph Partitioning and Sparse Matrix Ordering using Reinforcement Learning and Graph Neural Networks

Alice Gatti, Zhixiong Hu+3 more|arXiv (Cornell University)|Apr 8, 2021

VLSI and FPGA Design Techniques被引用数 7

ひとこと要約

本稿では、グラフニューラルネットワークとSAGE層を用いた深層強化学習アプローチを提案し、グラフ分割および頂点分離問題を解決する。得られた分割品質はMETISおよびSCOTCHと同等であり、多様なグラフにわたって良好に一般化され、ネストド・ディスsection順序付けに応用することで、スパース行列因数分解におけるフィルインを低減する。最小度順序付けを上回り、SCOTCHと同等の性能を達成する。

ABSTRACT

We present a novel method for graph partitioning, based on reinforcement learning and graph convolutional neural networks. Our approach is to recursively partition coarser representations of a given graph. The neural network is implemented using SAGE graph convolution layers, and trained using an advantage actor critic (A2C) agent. We present two variants, one for finding an edge separator that minimizes the normalized cut or quotient cut, and one that finds a small vertex separator. The vertex separators are then used to construct a nested dissection ordering to permute a sparse matrix so that its triangular factorization will incur less fill-in. The partitioning quality is compared with partitions obtained using METIS and SCOTCH, and the nested dissection ordering is evaluated in the sparse solver SuperLU. Our results show that the proposed method achieves similar partitioning quality as METIS and SCOTCH. Furthermore, the method generalizes across different classes of graphs, and works well on a variety of graphs from the SuiteSparse sparse matrix collection.

研究の動機と目的

• 深層強化学習およびグラフニューラルネットワークを用いたスケーラブルで微分可能なグラフ分割手法の開発。
• SuperLUのような直接解法におけるフィルイン低減を目的としたスパース行列順序付けの改善。
• さまざまなグラフタイプおよびサイズ、特に未学習の大規模グラフに対しても一般化可能な手法の実現。
• METIS や SCOTCH のような従来のヒューリスティクスを置き換えたり補完したりする、学習可能でハードウェアに適した代替手法の提供。

提案手法

• グラフ表現の再帰的コarseningとリファインメントを組み合わせたマルチレベルフレームワークを採用。
• ノード特徴量の符号化と分割意思決定のガイドとして、SAGEグラフ畳み込みネットワークを活用。
• 正規化カットまたはクォータントカット指標を最適化するため、アドバンテージアクターキャリブレーション（A2C）エージェントを訓練。
• エッジバイセクションおよび頂点分離の両方の計算に本手法を適用し、後者はネストド・ディスsectionに使用。
• 頂点分離を用いて、LU因数分解中のフィルインを最小化する行列順序付けを生成。
• SuiteSparseおよびデラウンイ triangulations からのスパース行列を用い、SuperLUを用いて性能を評価。

実験結果

リサーチクエスチョン

• RQ1 強化学習ベースのGNNアプローチは、多様なグラフにおいてMETISおよびSCOTCHと同等の分割品質を達成できるか？
• RQ2 本手法は、学習分布を超えたより大きな未観測グラフに対しても、どれほど一般化できるか？
• RQ3 学習された頂点分離手法は、効果的なネストド・ディスsection順序付けを生成し、スパース直接解法におけるフィルインを低減できるか？
• RQ4 本手法は、多様なスパarsityパターンを示す実世界のスパース行列に対しても、効率的にスケーリングされ、良好な性能を発揮するか？
• RQ5 フィルイン低減の観点で、本手法は最小度順序付けを上回るか、同等の性能を発揮するか？

主な発見

• 提案手法であるDRLベースの分割は、最大90,000ノードのグラフにおいて、METISおよびSCOTCHと同等の正規化カットおよびエッジカット値を達成する。
• 本手法は、SuiteSparseコレクションからの多様なスパarsityパターンを持つより大きなグラフに対しても、効果的に一般化される。
• スパース行列因数分解において、DRLベースのネストド・ディスsectionはCOLAMDを上回り、SCOTCHと同等のフィルイン低減効果を示す。
• DRLベースの順序付けはMETIS NDよりわずかに劣るが、すべてのテストケースで高品質な結果を達成する。
• 訓練中に未観測であったグラフ、特に2次元・3次元有限要素離散化およびデラウンイ三角形分割に対しても、本手法は良好に一般化される。
• 本手法は、現代のハードウェアと整合性があり、効率的なメモリアクセスパターンを有するため、ハイパフォーマンスコンピューティングワークロードにおいて有望である。