[論文レビュー] Using link and content over time for embedding generation in Dynamic Attributed Networks

Ana Paula Appel, Renato L. F. Cunha+2 more|arXiv (Cornell University)|Jul 17, 2018

Complex Network Analysis Techniques参考文献 43被引用数 5

ひとこと要約

本稿では、動的属性付きネットワークにおけるリンク、コンテンツ、時間的ダイナミクスを統合的に埋め込む共有行列分解モデルであるChimeraを提案する。低ランクで時間的に連続する表現を学習することで、Chimeraは効果的なコミュニティ検出と将来のコミュニティ構造の正確な予測を可能にし、arXiv や DBLP などの実世界データセットにおいてベースラインを上回る性能を示した。

ABSTRACT

In this work, we consider the problem of combining link, content and temporal analysis for community detection and prediction in evolving networks. Such temporal and content-rich networks occur in many real-life settings, such as bibliographic networks and question answering forums. Most of the work in the literature (that uses both content and structure) deals with static snapshots of networks, and they do not reflect the dynamic changes occurring over multiple snapshots. Incorporating dynamic changes in the communities into the analysis can also provide useful insights about the changes in the network such as the migration of authors across communities. In this work, we propose Chimera, a shared factorization model that can simultaneously account for graph links, content, and temporal analysis. This approach works by extracting the latent semantic structure of the network in multidimensional form, but in a way that takes into account the temporal continuity of these embeddings. Such an approach simplifies temporal analysis of the underlying network by using the embedding as a surrogate. A consequence of this simplification is that it is also possible to use this temporal sequence of embeddings to predict future communities. We present experimental results illustrating the effectiveness of the approach.

研究の動機と目的

• ネットワーク構造、コンテンツ、時間的進化を別個または静的要因として扱う既存手法のギャップを埋めること。
• 動的ネットワークにおけるリンク、テキストコンテンツ、時間的進化を統合的にモデル化する統一フレームワークの開発。
• 学習された時間的埋め込みを用いて将来のコミュニティメンバーシップを正確に予測すること。
• 生のネットワークスナップショットの代わりに埋め込みを用いることで、時間的ネットワーク解析を簡素化すること。

提案手法

• Chimeraは、複数の時間スナップショットにわたるネットワーク隣接行列とノードコンテンツ行列を、共有行列分解を用いて統合的に埋め込む。
• リンク行列とコンテンツ行列を低ランク分解により共有潜在空間に分解することで、ノード表現の時間的連続性を保持する。
• リンク再構成、コンテンツ再構成、時間的滑らかさのバランスを取るために正則化項を含む共同目的関数を最適化する。
• 時間的整合性は、連続する時間ステップ間でのノード埋め込みの大きな変化をペナルティ化することで強制する。
• 得られたノード埋め込みの時系列は、k-meansを用いたクラスタリングおよび将来のコミュニティメンバーシップの予測に使用される。
• ハイパーパrameterは、検証データ上のクラスタリング性能を最大化するためにベイズ最適化を用いて調整される。

実験結果

リサーチクエスチョン

• RQ1 構造的リンク、テキストコンテンツ、時間的進化を統合的に組み合わせた統一モデルは、動的ネットワークにおけるコミュニティ検出に有効に機能するか？
• RQ2 学習された埋め込みは、ベースラインと比較して、将来のコミュニティメンバーシップをどの程度正確に予測できるか？
• RQ3 埋め込みに時間的滑らかさを強制することで、時間経過に伴うコミュニティ検出の安定性と正確性が向上するか？
• RQ4 コンテンツと時間的ダイナミクスを組み込むことで、静的または構造のみのモデルに比べて、コミュニティ検出がどの程度向上するか？

主な発見

• Chimeraは、2015年と2016年の予測を用いて2017年のコミュニティメンバーシップを予測する際、ジャカード係数0.0765および純度0.4981を達成し、強力な予測能力を示した。
• モデルはコミュニティ検出においてベースライン手法を上回り、特に10個の潜在次元と特定の正則化パラメータを用いた場合に最良の結果を出した。
• アルゴリズムの実行時間はネットワークサイズに二次的に比例し、性能データを2次多項式にフィットさせることで、O(n²kT)の複雑度が確認された。
• 予測された埋め込みを時系列に追加することで反復的予測が可能となり、追加のノイズがあっても性能が維持された。
• 共有因子分解の使用により、リンク、コンテンツ、時間的信号が単一で解釈可能な潜在表現にシームレスに統合された。