[論文レビュー] Semi-supervised Graph Embedding Approach to Dynamic Link Prediction

Ryohei Hisano|arXiv (Cornell University)|Oct 14, 2016

Complex Network Analysis Techniques参考文献 32被引用数 4

ひとこと要約

本稿では、動的リンク予測のための半教師付きグラフ埋め込み手法であるSemiGraphを提案する。この手法は、過去のネットワークダイナミクスからの教師あり損失と、現在のネットワークにおける近隣コンテキスト予測の教師なし損失を重み付きで組み合わせることで、リンクの形成と解体を同時にモデル化する。モデルは、形成と解体プロセスのための別個の複素数値埋め込みを学習し、実世界の動的ネットワークにおいてリンク解体予測で最先端の性能を達成するとともに、形成予測においても優れた結果を示す。

ABSTRACT

We propose a simple discrete time semi-supervised graph embedding approach to link prediction in dynamic networks. The learned embedding reflects information from both the temporal and cross-sectional network structures, which is performed by defining the loss function as a weighted sum of the supervised loss from past dynamics and the unsupervised loss of predicting the neighborhood context in the current network. Our model is also capable of learning different embeddings for both formation and dissolution dynamics. These key aspects contributes to the predictive performance of our model and we provide experiments with three real--world dynamic networks showing that our method is comparable to state of the art methods in link formation prediction and outperforms state of the art baseline methods in link dissolution prediction.

研究の動機と目的

• 動的ネットワークにおけるネットワーク遷移、特にリンク形成と解体の区別を予測するという課題に取り組む。
• 時間的（過去）およびクロスセクショナル（現在）のネットワーク構造を統合することで、予測性能を向上させる。
• 形成と解体のダイナミクスにそれぞれ別個の埋め込みを学習可能とし、それらが異なるメカニズムに起因する可能性を考慮する。
• 既存手法を上回る性能を示す、スケーラブルで単純な離散時間アプローチを開発する、特にリンク解体予測において優れた性能を発揮する。

提案手法

• モデルは、過去のリンク形成および解体ネットワークからの教師あり表現を学習するための複素数値潜在特徴双線形モデルを用いる。
• 同じ複素数値ベクトルを用いて、現在のネットワークにおける近隣コンテキストを予測する教師なしグラフ埋め込み部を統合する。
• 総損失は、過去のダイナミクスからの教師あり損失と、現在のネットワークコンテキストからの教師なし損失の重み付き和である。
• モデルは、組み合わせ損失関数を最適化するため、確率的勾配降下法を用いてエンドツーエンドで訓練する。
• 複素数値ベクトルの使用により、対称的および反対称的関係を効率的にモデル化でき、両方の形成・解体ダイナミクスをサポートする。
• 本手法は、時刻 $t$ から $t+1$ への遷移を予測するために適用され、静的ネットワーク状態ではなく変化に焦点を当てる。

実験結果

リサーチクエスチョン

• RQ1 過去のダイナミクスと現在のネットワーク構造を統合することで、半教師付きグラフ埋め込みアプローチがネットワーク遷移を効果的に予測できるか？
• RQ2 リンク形成と解体のための別個の埋め込みを学習することで、共有埋め込みと比較して予測性能が向上するか？
• RQ3 提案手法の性能は、リンク形成およびリンク解体予測の両面で最先端手法と比較してどうなるか？
• RQ4 埋め込み次元や損失重みパラメータ $\lambda$ といったハイパーパrameterの選択に対して、モデルは頑健か？

主な発見

• 提案されたSemiGraphモデルは、テストに用いられた3つの実世界データセットすべてにおいて、リンク解体予測で最先端のベースライン手法を上回る性能を達成した。
• リンク形成予測においても、最先端手法と同等の性能を達成し、優れた一般化能力を示した。
• 実験により、教師あり損失と教師なし損失の最適なバランスは $\lambda \approx 0.05$ 付近であり、それ以上の値では性能が低下することが示された。
• 異なる埋め込み次元に対して安定した性能を示し、このハイパーパrameterに対して頑健であることがわかった。
• 時間的およびクロスセクショナル情報の統合は、いずれの信号を単独で用いる場合よりも顕著に予測精度を向上させた。