[論文レビュー] Graph Neural Networks Designed for Different Graph Types: A Survey

Josephine Maria Thomas, Alice Moallemy-Oureh+2 more|arXiv (Cornell University)|Apr 6, 2022

Advanced Graph Neural Networks被引用数 16

ひとこと要約

本サーベイは、静的・動的・異種・ハイパーグラフ・意味的変種など、多様なグラフタイプ—離散的および連続的時間の両方を含む—を処理できる能力に基づいて、グラフニューラルネットワーク（GNN）を体系的に分類する。連続的時間グラフや重複度を考慮したモデルの分野におけるGNNのカバレッジの大きな空白を特定し、アーキテクチャ設計と不足しているモデルの機会について構造的な分析を提供する。

ABSTRACT

Graphs are ubiquitous in nature and can therefore serve as models for many practical but also theoretical problems. For this purpose, they can be defined as many different types which suitably reflect the individual contexts of the represented problem. To address cutting-edge problems based on graph data, the research field of Graph Neural Networks (GNNs) has emerged. Despite the field's youth and the speed at which new models are developed, many recent surveys have been published to keep track of them. Nevertheless, it has not yet been gathered which GNN can process what kind of graph types. In this survey, we give a detailed overview of already existing GNNs and, unlike previous surveys, categorize them according to their ability to handle different graph types and properties. We consider GNNs operating on static and dynamic graphs of different structural constitutions, with or without node or edge attributes. Moreover, we distinguish between GNN models for discrete-time or continuous-time dynamic graphs and group the models according to their architecture. We find that there are still graph types that are not or only rarely covered by existing GNN models. We point out where models are missing and give potential reasons for their absence.

研究の動機と目的

• 処理可能なグラフタイプ別に分類された、現在のGNNモデルの包括的概要を提供すること。
• 現在のGNN研究において、不足しているか、カバーが不十分なグラフタイプや特性（例：動的エッジ、ノード/エッジ属性、重複度）を特定すること。
• 異なるグラフタイプとダイナミクスに対応するGNNモデルにおけるアーキテクチャ設計パターンを分析すること。
• 特定のグラフタイプに対応するGNNモデルが存在しない理由（例：データ不足、モデルの複雑さ）を説明すること。
• 未開拓のグラフタイプやGNN開発におけるアーキテクチャ的機会を浮き彫りにすることで、今後の研究を導くこと。

提案手法

• 静的および動的グラフにおける構造的（例：有向、多重、異種、ハイパーグラフ）および意味的（例：サイクル付き、二部グラフ、正則）グラフタイプに分類する。
• 離散的時間と連続的時間のダイナミクス、およびノード/エッジ属性の変化を処理する能力に基づいてGNNモデルを分類する。
• メッセージパッシング、RNNベース、時空点過程などのアーキテクチャ別にモデルをグループ化し、設計パターンを分析する。
• 引用数、汎用性、最新性、グラフ特性への明示的対応、単純さなどの基準を用いてモデルの重要性を評価する。
• 各グラフタイプごとに1〜2つの代表的モデルを厳選し、現在の能力を説明する。
• 重複度や連続的ダイナミクスのモデリングの難しさを含む、特定のグラフタイプに対するモデルの不在を定性的な推論で分析する。

実験結果

リサーチクエスチョン

• RQ1 現在のGNNモデルが処理可能なグラフタイプと特性は何か？
• RQ2 特定のグラフタイプに特化したGNNにおいて、最も一般的なアーキテクチャ設計パターンは何か？
• RQ3 連続的時間の動的グラフや重複度を考慮したグラフといった、特定のグラフタイプがなぜ現在のGNN研究で不足しているのか？
• RQ4 動的ノードおよびエッジ属性、ノードの削除、複雑なトポロジーを有するグラフに対するGNN設計における主な課題は何か？
• RQ5 異種かつ動的グラフといった、特定のグラフ特性の組み合わせにおいて、GNNのカバレッジに顕著なギャップが存在するか？

主な発見

• 連続的時間の動的グラフに対するGNNモデルの不足が顕著であり、この分野で同定されたモデルはハイパーグラフを除いて1つにとどまる。
• 動的ノードおよびエッジ属性、ノードの削除をすべて処理できるGNNモデルは極めて少なく、唯一のモデル（MGH）がその条件を満たしている。
• 離散的時間グラフ向けの大多数のGNNモデルは、各スナップショットに静的GNNを適用し、それをRNNで統合するアプローチを採用しており、計算コストの高いアーキテクチャとなっている。
• 離 discrete 時間におけるノード異種グラフ向けのモデルが存在しないのは、完全に異種のグラフ向けにより一般的なモデルが既に存在するためであり、設計上の重複や重複性が原因である可能性が高い。
• 連続的時間グラフにおける確率的点過程のモデリングの複雑さが、特に実数値属性のダイナミクスを扱う場合に、モデルの不足を引き起こしている。
• エッジの重複度を考慮したGNNは限定的であり、標準的な隣接行列では重複エッジを符号化できないため、根本的な技術的課題が存在する。