[論文レビュー] Spectral-based Graph Convolutional Network for Directed Graphs

Yi Ma, Jianye Hao+4 more|arXiv (Cornell University)|Jul 21, 2019

Advanced Graph Neural Networks参考文献 22被引用数 39

ひとこと要約

この論文は directed Laplacians と Chebyshev 多項式近似を用いた directed-グラフ向けスペクトルベースの GCN を導入し、ベースラインと比較して directed データセットで半監視ノード分類の性能を向上させる。

ABSTRACT

Graph convolutional networks(GCNs) have become the most popular approaches for graph data in these days because of their powerful ability to extract features from graph. GCNs approaches are divided into two categories, spectral-based and spatial-based. As the earliest convolutional networks for graph data, spectral-based GCNs have achieved impressive results in many graph related analytics tasks. However, spectral-based models cannot directly work on directed graphs. In this paper, we propose an improved spectral-based GCN for the directed graph by leveraging redefined Laplacians to improve its propagation model. Our approach can work directly on directed graph data in semi-supervised nodes classification tasks. Experiments on a number of directed graph datasets demonstrate that our approach outperforms the state-of-the-art methods.

研究の動機と目的

• スペクトルベースの GCN を undirected への緩和なしに directed グラフ上で直接動作させるための動機付けと実現。
• directed グラフのグラフラプラシアンを再定義し、伝播モデルを導出。
• Chebyshev 多項式近似を用いて directed グラフの畳み込み層を開発。
• さまざまな directed データセットで評価し、最新のベースラインと比較。
• 実用的な制限を検討し、将来の研究の方向性を提案。

提案手法

• stationary distributions と transition matrices を用いて directed グラフラプラシアンを定義。
• directed Laplacian の固有値に対する Chebyshev 多項式で directed グラフ上のスペクトルフィルタを近似。
• Equation 15 における対称正規化形を用いた directed GCN 伝播モデル（DGCN）を導出。
• ReLU 活性化と softmax 出力を備える 2 層および 3 層の DGCN アーキテクチャを構築。
• ラベル付きノードでのクロスエントロピーロスで学習し、過学習を抑えるために dropout を使用。
• PyTorch および PyTorch Geometric を用いて実装・評価。

実験結果

リサーチクエスチョン

• RQ1 spectral-based GCN を undirected への緩和なしに directed グラフ上で直接機能させることはできるか。
• RQ2 directed Laplacian を用いると directed ネットワークでの特徴抽出と分類精度は改善されるか。
• RQ3 two-layer および three-layer DGCN アーキテクチャは、半教師あり設定で異なる directed データセット間でどのように性能を示すか。
• RQ4 DGCN は directed グラフ上の最新のスペクトルベースおよび空間ベースの GCN 手法と比較してどうか。

主な発見

手法	Blogs	Wikipedia	Email	Cora-cite
GCN	89.38\pm 0.6	62.98\pm 0.4	54.06\pm 0.4	37.85\pm 0.3
GraphConv	96.16\pm 0.6	63.62\pm 0.3	52.32\pm 0.5	37.98\pm 0.3
GAT	91.26\pm 0.7	63.50\pm 0.4	50.19\pm 0.4	38.28\pm 0.2
ChebConv	88.92\pm 0.6	61.71\pm 0.4	44.36\pm 0.5	36.84\pm 0.3
DGCN (Ours)	97.09\pm 0.7	64.83\pm 0.4	57.63\pm 0.4	38.78\pm 0.2

• DGCN はテストされた 4 つの directed データセット（Blogs、Wikipedia、Email、Cora-cite）すべてでベースライン手法を上回る。
• Blogs では DGCN が 97.09% の精度を 0.7% の CI で達成し、他の手法より高い。
• Wikipedia では DGCN が 64.83% の精度を 0.4% の CI で達成し、他の手法より高い。
• Email では DGCN が 57.63% の精度を 0.4% の CI で達成し、他の手法より高い。
• Cora-cite では DGCN が 38.78% の精度を 0.2% の CI で達成し、他の手法より高い。
• 著者は directed ラプラシアンが directed-connectivity 構造をより効果的に捉えることに起因するとしている。