[論文レビュー] DyLink2Vec: Effective Feature Representation for Link Prediction in Dynamic Networks

Mahmudur Rahman, Tanay Kumar Saha+3 more|arXiv (Cornell University)|Apr 16, 2018

Complex Network Analysis Techniques参考文献 23被引用数 29

ひとこと要約

DyLink2Vec は動的ネットワークにおけるノードペアインスタンスのためのメトリクス埋め込み手法を提案し、再構成誤差を勾配降下法で最小化する最適符号号化問題としてリンク予測を定式化する。学習された特徴表現を通じて時間的リンクパターンを効果的に捉えることで、実世界の動的ネットワークにおいて既存手法を上回るリンク予測性能を達成する。

ABSTRACT

The temporal dynamics of a complex system such as a social network or a communication network can be studied by understanding the patterns of link appearance and disappearance over time. A critical task along this understanding is to predict the link state of the network at a future time given a collection of link states at earlier time points. In existing literature, this task is known as link prediction in dynamic networks. Solving this task is more difficult than its counterpart in static networks because an effective feature representation of node-pair instances for the case of dynamic network is hard to obtain. To overcome this problem, we propose a novel method for metric embedding of node-pair instances of a dynamic network. The proposed method models the metric embedding task as an optimal coding problem where the objective is to minimize the reconstruction error, and it solves this optimization task using a gradient descent method. We validate the effectiveness of the learned feature representation by utilizing it for link prediction in various real-life dynamic networks. Specifically, we show that our proposed link prediction model, which uses the extracted feature representation for the training instances, outperforms several existing methods that use well-known link prediction features.

研究の動機と目的

• 時間的リンクパターンが重要であるが、未だに活用されていない動的ネットワークにおけるノードペアインスタンスの有効な特徴表現の課題に対処すること。
• 時系列の動的要因を無視するか、時系列順序を歪めるためにシーケンスをフラット化する静的リンク予測手法の限界を克服すること。
• 時間的順序を保持し、動的ネットワークスナップショットにおける変化するトポロジー信号を捉えるメトリクス埋め込みフレームワークを構築すること。
• 進化するネットワークにおける構造的および時間的パターンを符号する低次元表現を学習することで、リンク予測の精度を向上させること。
• 時間的ダイナミクスの異なる実世界の動的ネットワークデータセットを用いて、提案手法が既存手法を上回ることを実証すること。

提案手法

• 複数の時間スナップショットにわたるノードペア表現の再構成誤差を最小化する最適符号号化問題として、メトリクス埋め込みタスクを定式化する。
• 勾配降下法を用いて埋め込み空間を最適化し、時間的およびトポロジー的関係を保持する連続的ベクトル表現を学習する。
• 履歴時間ウィンドウ $\widehat{E}$（過去のリンク）および $\overline{E}$（将来のリンク）を用いて訓練インスタンスを構築し、時間的遷移をモデル化する。
• 時間経過に伴うリンクの出現および消滅のシーケンスを符号化することで、進化するネットワークダイナミクスを捉えるノードペア埋め込みを学習する。
• 将来の時間点でのリンク予測のための下流分類モデルに、学習済み埋め込みを入力特徴として適用する。
• 時間的近接性にあるノードペアが類似した埋め込みを持つよう促す再構成損失関数を適用し、時間的順序を保持する。

実験結果

リサーチクエスチョン

• RQ1 メトリクス埋め込みアプローチは、リンク予測の向上を図るために、動的ネットワークにおける時間的ダイナミクスを効果的に捉えることができるか？
• RQ2 DyLink2Vec の性能は、トポロジー的特徴や時系列特徴に依存する静的および時系列的手法と比べてどうか？
• RQ3 DyLink2Vec を用いたリンク予測性能に、履歴時間スナップショットの数を変化させた場合、どのような影響を与えるか？
• RQ4 トレーニングデータのクラス不均衡は、DyLink2Vec のリンク予測タスクにおける性能にどのような影響を与えるか？
• RQ5 学習された埋め込みは、共同作業ネットワークやソーシャルネットワークなどの多様な動的ネットワークタイプに、どの程度一般化可能か？

主な発見

• DyLink2Vec は、トポロジー特徴、時系列モデリング、ディープラーニング、テンソル因子分解に基づく複数の最先端手法を、リンク予測タスクで上回る。
• 共同作業ネットワークでは、NDGC_{50} が 0.82、PRAUC が 0.89 を達成し、競合手法を著しく上回る。
• 履歴時間スナップショットの数を増やすことで性能が向上し、共同作業データセットでは 8 スナップショットでピークに達した後、最適化の複雑さのため低下する。
• Facebook1 データセットでは、スナップショット数を増やすことで性能が継続的に向上し、遠く離れた履歴リンクも予測に有用であることが示された。
• クラス不均衡は性能に悪影響を及ぼし、負例の比率が 1:1 を超えると PRAUC および NDGC_{50} が低下し、負例ペアのアンダーサンプリングが有効であることが示された。
• DyLink2Vec は、Enron や Facebook2、より難しい Facebook1 ネットワークを含む多様な動的ネットワークにおいて、強力なロバストネスと一般化性能を示し、ベースライン手法を大幅に上回った。