[論文レビュー] Dynamic Network Embedding Survey

Guotong Xue, Ming Zhong+4 more|arXiv (Cornell University)|Mar 29, 2021

Advanced Graph Neural Networks参考文献 4被引用数 14

ひとこと要約

本サーベイは、離散的および連続的データモデルの下で、構造的優先および時間的優先のアプローチに分類される動的ネットワーク埋め込み手法について包括的な概要を提供する。新しい分類法を提唱し、サンプル外ノードの取り扱いや時間的一般化といった主な課題を分析し、異種ネットワーク、スケーラブルなモデリング、タスク固有の学習といった未解決の研究分野を特定する。

ABSTRACT

Since many real world networks are evolving over time, such as social networks and user-item networks, there are increasing research efforts on dynamic network embedding in recent years. They learn node representations from a sequence of evolving graphs but not only the latest network, for preserving both structural and temporal information from the dynamic networks. Due to the lack of comprehensive investigation of them, we give a survey of dynamic network embedding in this paper. Our survey inspects the data model, representation learning technique, evaluation and application of current related works and derives common patterns from them. Specifically, we present two basic data models, namely, discrete model and continuous model for dynamic networks. Correspondingly, we summarize two major categories of dynamic network embedding techniques, namely, structural-first and temporal-first that are adopted by most related works. Then we build a taxonomy that refines the category hierarchy by typical learning models. The popular experimental data sets and applications are also summarized. Lastly, we have a discussion of several distinct research topics in dynamic network embedding.

研究の動機と目的

• 既存の文献におけるギャップを補うために、動的ネットワーク埋め込み手法の体系的サーベイを提供すること。
• データモデルと学習手法に基づいた新しい分類法を用いて、既存のアプローチを分類すること。
• サンプル外ノードの表現や将来の埋め込み予測といった課題を分析すること。
• ベンチマークデータセット、オープンソース実装、および実世界の応用を要約すること。
• 動的ネットワーク表現学習における新たな研究分野を特定・議論すること。

提案手法

• 動的ネットワーク埋め込み手法を2つのデータモデルに分類する：離散的（スナップショットベース）および連続的（時間連続）モデル。
• 階層的な分類法を提案し、手法を構造的優先および時間的優先のカテゴリに分類し、さらにその背後にある学習モデルによって洗練する。
• RNNベース、GCNベース、および結合時間的モデルを含む表現学習技術を分析し、進化するトポロジーとノード属性を捉える。
• 動的ネットワーク埋め込み研究で用いられる評価プロトコルおよびベンチマークデータセットを検討する。
• オープンソース実装および推薦、不正検出、交通予測などの実世界の応用をレビューする。
• 主な課題および今後の研究分野を特定する。スケーラビリティ、異種性、モデルの解釈可能性を含む。

実験結果

リサーチクエスチョン

• RQ1 離散的および連続的データモデルは、動的ネットワークをどのように表現するか異なり、それぞれにどのような利点があるか？
• RQ2 構造的優先および時間的優先の動的ネットワーク埋め込みアプローチの核心的な違いは何か？
• RQ3 現在の手法は、サンプル外ノードをどのように処理し、将来のネットワーク状態を予測するか？
• RQ4 動的ネットワーク埋め込みに最も効果的な評価プロトコルおよびベンチマークデータセットは何か？
• RQ5 動的ネットワーク表現学習における主な未解決課題と有望な今後の研究分野は何か？

主な発見

• 本サーベイは、2つの主要なデータモデルである離散的および連続的モデルを特定し、それぞれが異なるクラスの動的ネットワーク埋め込み技術の基盤をなしていることを明らかにした。
• 構造的優先および時間的優先のアプローチは、主な手法的カテゴリを占め、前者はトポロジーの保存を重視し、後者は時間的ダイナミクスを重視する。
• 多くの既存手法がノードやエッジの削除に対応できていないことから、一般化された構造的変化のモデリングにおけるギャップが明らかになった。
• DyHNE、EvolveGCN、JODIE、DynamicGEM のような主要モデルのオープンソース実装が利用可能であり、再現性とベンチマークの促進に寄与している。
• 応用分野は推薦システム、不正検出、交通予測にまで及び、動的埋め込みの実用的有用性を示している。
• 今後の研究は、異種ネットワーク、スケーラブルなモデリング、タスク固有の学習、モデルの解釈性の向上に焦点を当てるべきである。