[論文レビュー] Lifelong Graph Learning

Chen Wang, Yuheng Qiu+2 more|arXiv (Cornell University)|Sep 1, 2020

Advanced Graph Neural Networks参考文献 65被引用数 9

ひとこと要約

本稿では、ノード分類をストリーミンググラフでグラフ分類に変換する新しいグラフトポロジーである特徴グラフネットワーク（FGN）を提案する。ノード特徴量を新たなグラフ内のノードとして扱うことで、畳み込みニューラルネットワーク（CNN）から得られる生涯学習技術をグラフニューラルネットワーク（GNN）に適用可能にする。FGNは、生涯学習ベンチマークおよび人間の行動認識や画像特徴マッチングといった応用分野で優れた性能を発揮し、TartanAirデータセットにおいてGATと比較して24.2%の誤差低減を達成している。

ABSTRACT

Graph neural networks (GNN) are powerful models for many graph-structured tasks. Existing models often assume that the complete structure of the graph is available during training. In practice, however, graph-structured data is usually formed in a streaming fashion so that learning a graph continuously is often necessary. In this paper, we bridge GNN and lifelong learning by converting a continual graph learning problem to a regular graph learning problem so GNN can inherit the lifelong learning techniques developed for convolutional neural networks (CNN). We propose a new topology, the feature graph, which takes features as new nodes and turns nodes into independent graphs. This successfully converts the original problem of node classification to graph classification. In the experiments, we demonstrate the efficiency and effectiveness of feature graph networks (FGN) by continuously learning a sequence of classical graph datasets. We also show that FGN achieves superior performance in two applications, i.e., lifelong human action recognition with wearable devices and feature matching. To the best of our knowledge, FGN is the first method to bridge graph learning and lifelong learning via a novel graph topology. Source code is available at https://github.com/wang-chen/LGL

研究の動機と目的

• ストリーミングデータ環境におけるグラフ構造が時間とともに増加する状況において、生涯学習グラフ学習の課題に対処すること。
• 新しいデータが導入される際に古い知識が失われる、継続的学習におけるグラフニューラルネットワークの深刻な忘却問題を克服すること。
• 学習問題の再定式化により、CNNで確立された生涯学習技術をGNNに適用可能にする。
• 行動認識や特徴マッチングといったタスクにおいて重要な、ノード間および時間ステップ間の特徴相互作用を明示的にモデル化すること。
• グラフサイズおよび学習タスクの増加に伴っても一定の計算複雑性を維持する効率的なスケーリングを実現する手法の開発

提案手法

• ノード特徴量をノードとして扱い、元のノードを独立したグラフとして扱う新しいグラフトポロジー「特徴グラフ」を提案。これによりノード分類がグラフ分類に変換される。
• ノードの特徴量とその近隣ノードの特徴量の間の相互相関を用いて、特徴グラフの隣接行列を構築し、特徴相互作用をモデル化する。
• 特徴グラフ上でグラフレベルの予測を実行するためのグラフニューラルネットワークを用い、ミニバッチ学習および生涯学習手法との互換性を確保する。
• FGNフレームワークに、知識蒸留、EWC、MASといった標準的な生涯学習技術を適用し、継続的学習を実現する。
• SuperGlueのような既存のフレームワークにFGNを統合し、GATベースのマッチャーをFGNアーキテクチャに置き換えることで、画像特徴マッチングに応用する。
• 2層の特徴ブロードキャスト機構とアテンションベースのエッジ重みを用いて、特徴グラフ内のエッジ特徴量を定義する。

実験結果

リサーチクエスチョン

• RQ1 時間の経過とともにグラフ構造が増加するストリーミンググラフ環境において、グラフニューラルネットワークが生涯学習に適応可能か。
• RQ2 生涯学習フレームワークにおいて、ノード間および時間ステップ間の特徴相互作用を明示的にモデル化する方法は何か。
• RQ3 CNNで開発された生涯学習技術が、グラフ学習問題の構造的再定式化を通じてGNNに効果的に転送可能か。
• RQ4 増加するグラフサイズおよび学習タスクに伴っても、提案された特徴グラフトポロジーが一定の計算複雑性を維持できるか。
• RQ5 FGNは、既存のGNNと比較して、生涯学習ベンチマークおよび人間の行動認識や特徴マッチングといった実世界の応用分野で優れた性能を発揮するか。

主な発見

• TartanAirデータセットにおいて、FGNはGATと比較して平均マッチング誤差を24.2%低減した。特にOutdoorsやHardといった困難なカテゴリで顕著な改善が見られた。
• 特徴マッチングにおいて、FGNはサブピクセル精度が著しく向上し、特に誤差許容度が高い条件下でも高品質なマッチングの同定に優れていることが示された。
• 生涯学習評価において、FGNは全クラスで最小の忘却率を示し、最高性能と最終性能の差が最小であった。
• グラフサイズおよび学習タスクの増加に対しても、FGNは一定の計算複雑性を維持しており、効率的な継続的学習が可能である。
• 人間の行動認識において、データインクリメンタルおよびクラスインクリメンタルの両設定で、ベースラインモデルを上回る性能を示し、コンセプトドリフトに対して高い耐性を示した。
• 特徴グラフトポロジーは、ノード分類をグラフ分類に成功裏に変換し、初めてCNNベースの生涯学習技術をGNNに適用可能にした。