[論文レビュー] Signed Graph Convolutional Network

Tyler Derr, Yao Ma+1 more|arXiv (Cornell University)|Aug 20, 2018

Advanced Graph Neural Networks参考文献 27被引用数 56

ひとこと要約

Signed Graph Convolutional Network (SGCN) を導入し、バランス理論を用いて正・負のリンクを統合し、サイン付きネットワークの意味あるノード埋め込みとリンク符号予測を可能にする。情報を層を跨いだバランスされた経路と不均衡な経路を集約し、バランス理論に基づく損失で最適化する。

ABSTRACT

Due to the fact much of today's data can be represented as graphs, there has been a demand for generalizing neural network models for graph data. One recent direction that has shown fruitful results, and therefore growing interest, is the usage of graph convolutional neural networks (GCNs). They have been shown to provide a significant improvement on a wide range of tasks in network analysis, one of which being node representation learning. The task of learning low-dimensional node representations has shown to increase performance on a plethora of other tasks from link prediction and node classification, to community detection and visualization. Simultaneously, signed networks (or graphs having both positive and negative links) have become ubiquitous with the growing popularity of social media. However, since previous GCN models have primarily focused on unsigned networks (or graphs consisting of only positive links), it is unclear how they could be applied to signed networks due to the challenges presented by negative links. The primary challenges are based on negative links having not only a different semantic meaning as compared to positive links, but their principles are inherently different and they form complex relations with positive links. Therefore we propose a dedicated and principled effort that utilizes balance theory to correctly aggregate and propagate the information across layers of a signed GCN model. We perform empirical experiments comparing our proposed signed GCN against state-of-the-art baselines for learning node representations in signed networks. More specifically, our experiments are performed on four real-world datasets for the classical link sign prediction problem that is commonly used as the benchmark for signed network embeddings algorithms.

研究の動機と目的

• リンクが正である場合も負である場合もあり得るサイン付きネットワークにおけるノード表現の学習を動機づける。
• 正と負の情報を両方集約する原理的なGCNの変種を提案する。
• サイン付き関係の埋め込み学習を導く目的関数を開発する。
• 実世界のサイン付きネットワークにおけるリンク符号予測の効果を示す。

提案手法

• 符号なしのGCNをサイン付きネットワークへ拡張し、バランスされた経路と不均衡な経路に基づく集約を導入する。
• バランス理論を用いて層lまでのバランスされた経路B(l)と不均衡な経路U(l)の集合を定義する。
• 各層ごとにノードごとに2つの表現を維持する: ‘friends’（バランスされた表現）と ‘enemies’（不均衡表現）。
• 層ごとのアグリゲータと重み行列 W^(l) を用いて、正の隣接集合 N_i^(+) および負の隣接集合 N_i^(-) から情報を適切に伝播させる。
• 各ノードについて h_i^{B(L)} と h_i^{U(L)} を連結して最終埋め込みを生成する Algorithm 2 を提案する。
• 目的関数はリンクタイプ分類のための監督付き多項ロジスティック回帰成分と、拡張された構造的バランス理論に基づく第2項からなるもので、正則化付きSGDで最適化する。

実験結果

リサーチクエスチョン

• RQ1 SGCNはサイン付きネットワークのノードに対して意味のある低次元埋め込みを学習できるか？
• RQ2 バランス理論と長い集約経路を組み込むことで、ベースラインと比較してサイン付きネットワークの埋め込みを改善するか？
• RQ3 バランスされた経路と不均衡な経路の集約がリンク符号の予測性能にどう寄与するか？
• RQ4 最初の層の集約のみを用いる場合と、複数層のバランス理論に基づく集約を用いる場合の影響は何か？

主な発見

• SGCNは4つの実世界のサイン付きネットワークにおいて、リンク符号予測で最新のベースラインを上回る性能を示す。
• バランス理論とより長い経路情報を組み込むことで、単一層の集約を超えた埋め込み品質が向上する。
• モデルは各ノードに対して二重の表現（friendsとenemies）を学習し、層を跨いでバランスされた経路/不均衡な経路を介して効果的に伝播する。
• 目的関数は監督付き分類子項とバランス理論に基づくランキング項を組み合わせて埋め込み空間を構造化する。