[論文レビュー] Representation Learning for Dynamic Graphs: A Survey

Seyed Mehran Kazemi, Rishab Goel+5 more|arXiv (Cornell University)|May 27, 2019

Advanced Graph Neural Networks参考文献 250被引用数 69

ひとこと要約

動的グラフのニューラル表現学習技術の総覧。エンコーダ–デコーダフレームワークを軸に、離散/連続時間動力学、KG/HIN設定、応用をカバー。モデル、表現力、データセット、タスク、オープンな研究課題を論じる。

ABSTRACT

Graphs arise naturally in many real-world applications including social networks, recommender systems, ontologies, biology, and computational finance. Traditionally, machine learning models for graphs have been mostly designed for static graphs. However, many applications involve evolving graphs. This introduces important challenges for learning and inference since nodes, attributes, and edges change over time. In this survey, we review the recent advances in representation learning for dynamic graphs, including dynamic knowledge graphs. We describe existing models from an encoder-decoder perspective, categorize these encoders and decoders based on the techniques they employ, and analyze the approaches in each category. We also review several prominent applications and widely used datasets and highlight directions for future research.

研究の動機と目的

• 動的グラフ上の表現学習の課題と動機を説明する。
• 連続時間と離散時間という時制を横断する動的グラフモデルのエンコーダ–デコーダ分類法を提供する。
• 動的グラフのエンコーダとデコーダ、それらの表現力と学習パラダイムを概観する。
• 共通のタスク、データセット、応用、未解決の課題を強調し、今後の研究を導く。

提案手法

• 動的グラフ形式論（連続時間と離散時間）と予測タスクを定義する。
• 動的グラフモデルを分類するためのエンコーダ–デコーダフレームワークを提示する。
• シーケンスモデル、アテンション、時系列点過程を含む時系列エンコード/デコード技術を概観する。
• 動的グラフモデルと知識グラフ(KG)/ヘテロジニアス情報ネットワーク(HIN)拡張の表現力概念を議論する。
• データセットと応用を概観し、未解決の問題と将来の方向性を概説する。

実験結果

リサーチクエスチョン

• RQ1 動的グラフに用いられる主要なエンコーダとデコーダ技術は何で、それらはどのように分類されるか？
• RQ2 動的グラフは補間・外挿タスクを、ストリーミングを含むシナリオでどう扱うか？
• RQ3 動的グラフ表現学習の主要データセット、応用、未解決の課題は何か？
• RQ4 知識グラフやヘテロ情報ネットワークを含む動的グラフモデルの表現力はどのように定義・分析されるか？

主な発見

• 本調査は動的グラフを連続時間と離散時間の定義で形式化し、ノード/エッジ/グラフ分類などの予測タスクを明確化する。
• エンコーダ–デコーダの視点を用いて、時間を通じた動的グラフモデルと埋め込みを体系化する。
• 時系列エンコーディング手法、シーケンスモデル、アテンション、時系列点過程を核心技術として扱う。
• モデルの表現力について、ノード・エッジ・グラフ予測タスクの完全な表現力概念を含めて議論する。
• 応用、データセット、未解決の研究方向が要約され、動的グラフ表現学習の今後の研究を導く。