[論文レビュー] Directed Graph Convolutional Network

Zekun Tong, Yuxuan Liang+3 more|arXiv (Cornell University)|Apr 29, 2020

Advanced Graph Neural Networks参考文献 35被引用数 65

ひとこと要約

DGCNは、1次および2次近接を活用してスペクトルベースのGCNを有向グラフへ拡張し、有向データセット上で半教師付きノード分類を改善します。

ABSTRACT

Graph Convolutional Networks (GCNs) have been widely used due to their outstanding performance in processing graph-structured data. However, the undirected graphs limit their application scope. In this paper, we extend spectral-based graph convolution to directed graphs by using first- and second-order proximity, which can not only retain the connection properties of the directed graph, but also expand the receptive field of the convolution operation. A new GCN model, called DGCN, is then designed to learn representations on the directed graph, leveraging both the first- and second-order proximity information. We empirically show the fact that GCNs working only with DGCNs can encode more useful information from graph and help achieve better performance when generalized to other models. Moreover, extensive experiments on citation networks and co-purchase datasets demonstrate the superiority of our model against the state-of-the-art methods.

研究の動機と目的

• スペクトルベースのグラフ畳込みを、向きを損なうことなく有向グラフに拡張する。
• receptive fieldを拡張するために、1次および2次近接を導入する。
• 複数の近接ベース畳込みを統合するフュージョン機構を開発する。
• 実世界の有向データセット上での効率性と有効性を示す。
• 他のGNNモデルへの一般化と時空間計算量の洞察を提供する。

提案手法

• 有向グラフの1次および2次近接を定義する。
• 3つの近接ベースの隣接表現を構築する：1次( A_F )、2次入次数(A_S_in)、2次出次数(A_S_out)。
• 共有重みで各近接行列にスペクトル風のグラフ畳込みを適用する。
• 結合された信号を連結ベースのフュージョン関数Gammaで融合する（例：Z = Concat(Z_F, alpha Z_S_in, beta Z_S_out)）。
• セミスーパーバイズドノード分類のために2層のネットワークと最終的なソフトマックスを使用する。
• ラベル付きノードでのクロスエントロピーを用いた学習と実験の全バッチ計算を提供する。

実験結果

リサーチクエスチョン

• RQ1 有向グラフのスペクトラル畳込みをグラフを対称化せずに効果的に実現できるか。
• RQ2 1次および2次近接は、有向グラフの性能を向上させる補完情報を捉えるか。
• RQ3 複数の近接ベース畳込みを融合して得られる表現は、単一の近接を用いる場合より良いか。
• RQ4 DGCNは有向/引用ネットワークと共購入ネットワークにおいて、最先端のスペクトル・空間ベースのGNNと比較してどの程度性能を発揮するか。

主な発見

モデル	Cora-Full	Cora-ML	CiteSeer	DBLP	PubMed	Amazon-Photo	Amazon-Computer
ChebNet	58.0 ±0.5	79.2 ±1.4	59.7 ±4.0	64.0 ±2.8	74.6 ±2.5	82.5 ±2.4	72.9 ±3.0
GCN	59.1 ±0.7	81.7 ±1.2	64.7 ±2.3	71.5 ±2.7	76.8 ±2.2	90.4 ±1.5	81.9 ±1.9
SGC	61.2 ±0.6	80.3 ±1.1	61.4 ±3.4	69.2 ±2.8	75.8 ±2.8	89.4 ±1.4	80.2 ±1.2
GraphSage	58.1 ±0.7	80.2 ±1.6	62.8 ±2.1	68.1 ±2.5	75.2 ±3.2	89.8 ±1.9	80.4 ±2.5
GAT	60.8 ±0.6	81.5 ±1.0	63.7 ±2.0	71.8 ±2.6	76.5 ±2.3	90.0 ±1.3	81.2 ±2.5
DGCN	60.8 ±0.6	82.0 ±1.4	65.4 ±2.3	72.5 ±2.5	76.9 ±1.9	90.8 ±1.1	82.0 ±1.7

• DGCNは7つのデータセットで競争力のある精度を達成し、しばしばChebNet、GCN、SGC、GraphSage、GATといったベースラインを上回る。
• 1次および2次近接の両方を使用する（DGCN with both）は、通常、1次近接のみを使用する場合より結果を改善する。
• DGCNは、有向データセット（Cora-Full、Cora-ML、CiteSeer、Amazon-Photo、Amazon-Computers）で強力な性能を示し、無向データセット（DBLP、PubMed）でも堅牢である。
• 2層のDGCNとフュージョン機構は注目すべき利得を生み出し、ベースラインと比較して特徴とラベルの効率性を示す。
• このアプローチは2次近接を通じて有向情報を保持しつつ、受容野を拡張し過度なパラメータ増加を抑える。