[論文レビュー] GC-LSTM: Graph Convolution Embedded LSTM for Dynamic Link Prediction

Jinyin Chen, Wang, Xueke+1 more|arXiv (Cornell University)|Dec 11, 2018

Complex Network Analysis Techniques参考文献 53被引用数 85

ひとこと要約

GC-LSTMはグラフ畳込みをLSTMに埋め込み、動的ネットワークのリンク予測の時空特徴を学習し、追加・削除・保持されたリンクを予測します。実データセットで最先端のベースラインを上回ります。

ABSTRACT

Dynamic link prediction is a research hot in complex networks area, especially for its wide applications in biology, social network, economy and industry. Compared with static link prediction, dynamic one is much more difficult since network structure evolves over time. Currently most researches focus on static link prediction which cannot achieve expected performance in dynamic network. Aiming at low AUC, high Error Rate, add/remove link prediction difficulty, we propose GC-LSTM, a Graph Convolution Network (GC) embedded Long Short Term Memory network (LTSM), for end-to-end dynamic link prediction. To the best of our knowledge, it is the first time that GCN embedded LSTM is put forward for link prediction of dynamic networks. GCN in this new deep model is capable of node structure learning of network snapshot for each time slide, while LSTM is responsible for temporal feature learning for network snapshot. Besides, current dynamic link prediction method can only handle removed links, GC-LSTM can predict both added or removed link at the same time. Extensive experiments are carried out to testify its performance in aspects of prediction accuracy, Error Rate, add/remove link prediction and key link prediction. The results prove that GC-LSTM outperforms current state-of-art method.

研究の動機と目的

• 動的ネットワークリンク予測（DNLP）とその広範な応用を動機づける。
• DNLPの構造的特徴と時間的特徴を同時に学習するエンドツーエンドモデルを提案する。
• 新規リンクだけでなく消失するリンクの予測を可能にする。
• 複数の実世界の動的ネットワークに対してGC-LSTMを既存のベースラインと比較評価する。

提案手法

• 各スナップショットを隣接行列として表現し、過去の隣接行列のシーケンスを入力として用いる。
• 隠れ状態とセル状態の両方にGCNを適用してLSTMにグラフ畳込みを埋め込む（LSTMセルごとに2つのGCN）。
• GC-LSTMをエンコーダとして機能させ、全結合デコーダが隠れ状態をリンク確率にマッピングする2部構成のエンコーダ-デコーダフレームワークを使用する。
• directedグラフ上のスペクトルフィルタを近似するチェビシェフ多項式ベースのグラフ畳込みを使用する（K次、K=3）。
• 隠接行列の再構成誤差のL2と正則化項を組み合わせた損失でモデルを訓練し、Adamで最適化する。

実験結果

リサーチクエスチョン

• RQ1 DNLPのために各ネットワークスナップショットからの構造情報を時間変化とどのように統合できるか？
• RQ2 GCNをLSTMセルに埋め込むことで、動的ネットワークの追加リンクと削除リンクの両方の予測を改善できるか？
• RQ3 グラフ畳込みの次数（K）が予測性能と効率に与える影響はどの程度か？
• RQ4 GC-LSTMは実世界の複数のデータセットで、他のDNLP手法とどの指標でどの程度比較して優れているか？

主な発見

• GC-LSTMは動的ネットワークの空間構造と時間的進化の両方を効果的に学習する。
• モデルは追加、削除、一定リンクを予測し、動的ネットワーク全体の進化を予測できる。
• 実験によりGC-LSTMは複数の実世界データセットで標準指標の上で最先端のベースラインを上回った。
• GC-LSTMはK=3のチェビシェフベースのグラフ畳込みを使用し、データセットに応じて256–512次元の隠れ状態を採用して性能と効率のバランスをとっている。