[論文レビュー] Data Augmentation on Graphs: A Technical Survey

Jiajun Zhou, Chenxuan Xie+5 more|arXiv (Cornell University)|Dec 20, 2022

Advanced Graph Neural Networks被引用数 8

ひとこと要約

本サーベイは、特徴、ノード、エッジ、部分グラフ、グラフ、ラベルの細分化されたグラフ要素に基づいて分類される、グラフデータ拡張（GDAug）技術の包括的な技術的概要を提供する。定義を形式化し、技術的メカニズムを詳細に説明し、性能評価指標を評価し、グラフ表現学習における応用および未解決の課題を提示する。

ABSTRACT

In recent years, graph representation learning has achieved remarkable success while suffering from low-quality data problems. As a mature technology to improve data quality in computer vision, data augmentation has also attracted increasing attention in graph domain. To advance research in this emerging direction, this survey provides a comprehensive review and summary of existing graph data augmentation (GDAug) techniques. Specifically, this survey first provides an overview of various feasible taxonomies and categorizes existing GDAug studies based on multi-scale graph elements. Subsequently, for each type of GDAug technique, this survey formalizes standardized technical definition, discuss the technical details, and provide schematic illustration. The survey also reviews domain-specific graph data augmentation techniques, including those for heterogeneous graphs, temporal graphs, spatio-temporal graphs, and hypergraphs. In addition, this survey provides a summary of available evaluation metrics and design guidelines for graph data augmentation. Lastly, it outlines the applications of GDAug at both the data and model levels, discusses open issues in the field, and looks forward to future directions. The latest advances in GDAug are summarized in GitHub.

研究の動機と目的

• グラフデータ拡張（GDAug）研究における体系的な分類法と一般化された定義の不足に対処すること。
• 特徴、ノード、エッジ、部分グラフ、グラフ、ラベルといった細分化されたグラフ要素に基づいて、GDAug手法を統一したフレームワークで分類すること。
• 拡張の質と一般化性能を評価するための、性能指標と設計指標を含む包括的な評価システムを構築すること。
• さまざまなグラフ学習タスクおよび複雑なグラフタイプにおける、データレベルおよびモデルレベルのGDAugの応用を要約すること。
• GDAugに向けた未解決の問題を特定し、特に複雑なグラフや堅牢な評価フレームワークの分野における今後の研究方向を提案すること。

提案手法

• 特徴レベル、ノードレベル、エッジレベル、部分グラフレベル、グラフレベル、ラベルレベルの6つのカテゴリーに基づくGDAugの分類法を提案する。
• 各GDAugタイプの一般的な定義を形式化し、特徴マスキング、エッジドロップ（例：DropEdge）、適応的エッジ再接続（例：AdaEdge）、ノード特徴の摂動（例：GRAND）などの技術的メカニズムを詳細に説明する。
• 下流タスクの性能、一貫性、多様性の3つの指標を組み合わせたマルチメトリック評価システムを導入し、拡張の質と一般化性能を評価する。
• 自己教師あり学習（例：GraphCL、GCC、EGI）、敵対的耐性（例：FLAG、GROC）、および部分グラフサンプリングを用いたトランスファー学習におけるGDAugの応用をレビューする。
• 異種グラフ、動的グラフ、知識グラフを含む複雑なグラフタイプの文脈において、既存のGDAug技術を分析する。
• 分野の最新動向を追跡するためのGitHubリポジトリ（https://github.com/jjzhou012/GDAug-Survey）を提案する。

実験結果

リサーチクエスチョン

• RQ1 細分化されたグラフ要素に基づいて、グラフデータ拡張技術をどのように体系的に分類できるか？
• RQ2 各グラフ要素レベルにおける、さまざまなGDAug手法の核心的な技術的メカニズムと設計原則は何か？
• RQ3 下流タスクの正確性を超えて、包括的で解釈可能なGDAugの評価システムをどのように構築できるか？
• RQ4 GDAugは、グラフ表現学習におけるモデルの耐性、移植性、一般化性能を向上させるために、どのような主要な応用を持つのか？
• RQ5 異種グラフや動的グラフのような複雑なグラフタイプへのGDAugの適用における主な未解決の課題は何か？

主な発見

• GDAug技術はモデルの耐性を顕著に向上させ、GraphCL や GROC は拡張されたビューにより敵対的攻撃に対してより強い耐性を示す。
• GCC や EGI のような部分グラフレベルの拡張手法は、ランダムウォークやエゴネットサンプリングを活用することで、効果的な事前学習とトランスファー学習を可能にする。
• 適応的エッジ再接続（例：AdaEdge）や特徴マスキング（例：FLAG）は、繰り返しグラフ構造と特徴表現を最適化することで、モデルの一般化性能を向上させる。
• 現在の評価慣習は下流タスクの性能に大きく依存しているが、一貫性と多様性の指標が、拡張の質を評価する補完的ツールとして登場しつつある。
• 既存の大多数のGDAug手法は同種の属性付きグラフに限定されており、異種グラフ、時空間的グラフ、知識グラフなどの複雑なグラフタイプを扱う分野には顕著な研究ギャップが存在する。
• 体系的な評価フレームワークはまだ整っておらず、既存の指標はしばしば予測性能を組み合わせるが、解釈性や柔軟性に欠けることが多い。