[論文レビュー] Learning to Identify High Betweenness Centrality Nodes from Scratch: A Novel Graph Neural Network Approach

Changjun Fan, Li Zeng+4 more|arXiv (Cornell University)|May 24, 2019

Complex Network Analysis Techniques参考文献 41被引用数 18

ひとこと要約

本稿では、小規模なネットワークで学習させ、大規模なネットワークへ一般化するように設計された、BC（中間性媒介度）の高いノードを同定するための新しいグラフニューラルネットワークモデル、DeepRanker for BCを提案する。エンコーダ・デコーダフレームワークを採用し、近隣集約と多層パーセプトロンによるデコーディングを組み合わせることで、最先端の近似手法と比較して、1000倍以上高速な推論を実現しながら、トップBCノードの順序付け精度を維持または上回る。

ABSTRACT

Betweenness centrality (BC) is one of the most used centrality measures for network analysis, which seeks to describe the importance of nodes in a network in terms of the fraction of shortest paths that pass through them. It is key to many valuable applications, including community detection and network dismantling. Computing BC scores on large networks is computationally challenging due to high time complexity. Many approximation algorithms have been proposed to speed up the estimation of BC, which are mainly sampling-based. However, these methods are still prone to considerable execution time on large-scale networks, and their results are often exacerbated when small changes happen to the network structures. In this paper, we focus on identifying nodes with high BC in a graph, since many application scenarios are built upon retrieving nodes with top-k BC. Different from previous heuristic methods, we turn this task into a learning problem and design an encoder-decoder based framework to resolve the problem. More specifcally, the encoder leverages the network structure to encode each node into an embedding vector, which captures the important structural information of the node. The decoder transforms the embedding vector for each node into a scalar, which captures the relative rank of this node in terms of BC. We use the pairwise ranking loss to train the model to identify the orders of nodes regarding their BC. By training on small-scale networks, the learned model is capable of assigning relative BC scores to nodes for any unseen networks, and thus identifying the highly-ranked nodes. Comprehensive experiments on both synthetic and real-world networks demonstrate that, compared to representative baselines, our model drastically speeds up the prediction without noticeable sacrifce in accuracy, and outperforms the state-of-the-art by accuracy on several large real-world networks.

研究の動機と目的

• 数百万ノードを有する大規模ネットワークにおける正確なBC計算の計算不能性に対処する。
• ネットワークの摂動に敏感な、遅いサンプリングベースの近似アルゴリズムへの依存を低減する。
• トップ-kの高BCノードを同定する問題を、グラフニューラルネットワークを用いた学習による順序付け問題に変換する。
• 異なるネットワークタイプに一般化可能で、未観測の大規模ネットワークへも効率的にスケーリング可能なインダクティブモデルを開発する。
• 既存のベースラインと比較して、著しく短い推論時間でトップ-k BCノードの順序付け精度を高める。

提案手法

• モデルはエンコーダ・デコーダアーキテクチャを採用する。エンコーダは近隣集約型GNNを用い、BCに対する構造的関連性を捉えたノード埋め込みを生成する。
• デコーダは、各ノード埋め込みをスカラーの順位スコアにマップする多層パーセプトロンである。このスコアは、ノードのBC重要度の相対的順位を示す。
• モデルは、ノードの真のBC値に基づく相対的順序を保持するように、ペairワイズ順位損失を用いてエンドツーエンドで訓練される。
• 訓練は、例えば、パワー則クラスタ（powerlaw-cluster）、 Erdős–Rényi（ER）、 Barabási–Albert（BA）モデルなどの小規模な合成ネットワークで実施され、大規模な現実世界のグラフへの一般化を可能にする。
• エンコーダは、Brandesアルゴリズムの構造的集約パターンを模倣しており、BC計算の本質的論理と整合している。
• モデルはインダクティブである。つまり、訓練時に見られなかったグラフに対しても予測が可能であり、大規模で動的なネットワークへの展開が可能である。

実験結果

リサーチクエスチョン

• RQ1 正確なBC値を計算せずに、中間性媒介度によるノードの相対的順位を予測できるグラフニューラルネットワークは、実際に有効に学習可能だろうか？
• RQ2 小規模な合成ネットワークで学習したモデルは、大規模な現実世界のネットワークにおいて、トップBCノードを同定する際にどの程度一般化可能だろうか？
• RQ3 訓練用のネットワーク分布の選択（例えば、PL-cluster、ER、BA）が、モデルの一般化性能にどの程度影響を与えるだろうか？
• RQ4 学習された順位付けモデルは、トップ-k BCノード同定において、既存のサンプリングベースの近似アルゴリズムを速度面でも精度面でも上回れるだろうか？
• RQ5 どのようなアーキテクチャ的・訓練的選択が、最小限の計算コストで高い性能を達成できるのか？

主な発見

• 提案モデルは、KADABRA や ABRA と比較して、最大1000倍の高速な推論を達成し、トップ1%およびトップ5%ノードの順位付け精度は同等または上回った。
• 5つの現実世界ネットワークのうち3つにおいて、トップ1%およびトップ5%の精度が最高を記録し、正確なアルゴリズムでさえも順位の整合性（ranking fidelity）で上回った。
• すべてのデータセットにおいて、真のBC順位とのケンダールのtau距離が最小であり、優れた順位付け品質を示した。
• パワー則クラスタ（PL-cluster）の合成グラフで訓練した場合、多様な現実世界ネットワークタイプに最も優れた一般化性能を示した。
• 数百万ノードに達するネットワークにおいても、高い精度を維持した。これは、強力なスケーラビリティとインダクティブバイアスの有効性を示している。
• ネットワークの摂動に対して、モデルの性能は頑健であった。これに対して、サンプリングベースの手法は、構造的変化に対して敏感であった。