[論文レビュー] Graph Neural Networks for temporal graphs: State of the art, open challenges, and opportunities

Antonio Longa, Veronica Lachi+6 more|arXiv (Cornell University)|Feb 2, 2023

Advanced Graph Neural Networks被引用数 30

ひとこと要約

Temporal graph neural networks (TGNNs) の包括的な調査で、タスクの形式化、分類法、表現、および未解決の課題を体系化し、スナップショットベースおよびイベントベースの TGNN 手法の分類法を提供します。

ABSTRACT

Graph Neural Networks (GNNs) have become the leading paradigm for learning on (static) graph-structured data. However, many real-world systems are dynamic in nature, since the graph and node/edge attributes change over time. In recent years, GNN-based models for temporal graphs have emerged as a promising area of research to extend the capabilities of GNNs. In this work, we provide the first comprehensive overview of the current state-of-the-art of temporal GNN, introducing a rigorous formalization of learning settings and tasks and a novel taxonomy categorizing existing approaches in terms of how the temporal aspect is represented and processed. We conclude the survey with a discussion of the most relevant open challenges for the field, from both research and application perspectives.

研究の動機と目的

• 時系列グラフ上での学習のための形式的で統一された枠組みを提供し、学習タスクを明確にする。
• 既存の TGNN 手法を、時間情報をどのように表現し処理するかによって分類する。
• 制限点、未解決の課題、および TGNNs が貢献できる実世界の応用を特定する。
• 現在の手法のギャップを強調し、今後の研究の方向性を示す。

提案手法

• 時系列グラフの定義と学習設定を形式化する（静的グラフ vs 時系列グラフ、STG vs ETG、離散時間 vs 連続時間）。
• TGNN をスナップショットベースとイベントベースのカテゴリに分ける分類法を提案し、時系列依存性の管理方法（モデル進化 vs 埋め込み進化、RECベースの機構）でさらに分割する。
• 既存の TGNN アプローチをタスク（分類、回帰、リンク予測、グラフタスク）および学習設定（過去/未来、トランザクティブ/インダクティブ）に体系的にマッピングする。
• 代表的なモデル（例: EvolveGCN、DySAT、VGRNN、ROLAND、DynGESN、SSGNN）と、時間的ダイナミクスの取り扱い手法を議論する。

実験結果

リサーチクエスチョン

• RQ1 既存のアプローチを統一するために、時系列グラフをどのように正式に定義すべきか。
• RQ2 TGNN は時系列表現と処理機構によってどのように分類できるか。
• RQ3 TGNN はどのタスクに対応できるか、どの学習設定（過去/未来、トランザクティブ/インダクティブ）で。
• RQ4 TGNN 研究の現状の限界と未解決の課題は何か、現実世界の応用で TGNN が潜在的に有利となる領域はどこか。

主な発見

• TGNN は注目を集める領域で、注意機構ベースから変分法・オートエンコーダー型の手法まで、時系列リンク予測、ノード分類、エッジ分類を扱うアプローチが広がっている。
• スナップショットベースとイベントベースの TGNN を区別し、時系列依存性のモデリング方法（モデル進化 vs 埋め込み進化）でさらに区分する、整合的な分類法が提案されている。
• 複数の顕著なモデル（例: EvolveGCN、DySAT、VGRNN、ROLAND、DynGESN、SSGNN）を、それぞれの時刻の組み込み、記憶、トポロジーの取り込み戦略とともに概観する。
• 本論文は TGNN の学習設定（トランザクティブ vs インダクティブ；過去 vs 未来）を形式化し、これらがタスク定義と評価にどのように影響するかを明確にする。
• 未解決の課題と実世界の応用について議論され、現在の TGNN の能力のギャップと今後の研究の機会を強調する。