[論文レビュー] Graph Few-shot Learning with Task-specific Structures

Song Wang, Chen Chen+1 more|arXiv (Cornell University)|Oct 21, 2022

Advanced Graph Neural Networks被引用数 6

ひとこと要約

本稿では、低ショット設定下でのノード分類性能を向上させるために、タスク固有のグラフ構造を学習する新しいグラフ少数ショット学習フレームワーク、GLITTERを提案する。影響度に基づいて関連するノードを選択し、相互情報量を最適化することでエッジ重みを調整することにより、タスク固有の表現を強化し、単一および複数のグラフ設定の5つのデータセットにおいて最先端の性能を達成した。

ABSTRACT

Graph few-shot learning is of great importance among various graph learning tasks. Under the few-shot scenario, models are often required to conduct classification given limited labeled samples. Existing graph few-shot learning methods typically leverage Graph Neural Networks (GNNs) and perform classification across a series of meta-tasks. Nevertheless, these methods generally rely on the original graph (i.e., the graph that the meta-task is sampled from) to learn node representations. Consequently, the graph structure used in each meta-task is identical. Since the class sets are different across meta-tasks, node representations should be learned in a task-specific manner to promote classification performance. Therefore, to adaptively learn node representations across meta-tasks, we propose a novel framework that learns a task-specific structure for each meta-task. To handle the variety of nodes across meta-tasks, we extract relevant nodes and learn task-specific structures based on node influence and mutual information. In this way, we can learn node representations with the task-specific structure tailored for each meta-task. We further conduct extensive experiments on five node classification datasets under both single- and multiple-graph settings to validate the superiority of our framework over the state-of-the-art baselines. Our code is provided at https://github.com/SongW-SW/GLITTER.

研究の動機と目的

• すべてのメタタスクにわたって固定された元のグラフ構造を用いる既存のグラフ少数ショット学習手法の制限を解消すること。
• 動的でタスク固有のグラフ構造を用いることで、各メタタスクに適したノード表現を調整し、分類性能を向上させること。
• スパarsな少数ショットメタタスクにおける関連ノードの選択および意味のあるエッジ重みの学習という課題を克服すること。
• 単一グラフおよび複数グラフ設定、特にノード集合が非交差する状況を含む、効果的な少数ショット学習を可能にすること。
• ノードの影響度とラベルクエリの相互情報量を活用することで、多様なメタタスク構成に適応可能なフレームワークを開発すること。

提案手法

• サポートノード全体への影響度を測定するノード影響度に基づく戦略を用いて、各メタタスクの関連ノードを抽出する。
• クエリノードとその潜在的ラベルとの間の相互情報量を最大化することで、タスク固有のエッジ重みを学習する。
• タスク固有の構造内での同クラス内ノードの影響度を高めることで、クラス内相関を強化する。
• サポートノード、クエリノード、および元のグラフからの関連ノードを含むタスク固有の部分グラフを構築する。
• 学習済みのタスク固有構造をGNNベースの分類ヘッドに統合し、少数ショットノード分類を実行する。
• 各メタタスクを訓練グラフからサンプリングし、別個のテストグラフで評価するエンドツーエンドのメタラーニングでモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 固定された元のグラフ構造を用いるのと比較して、タスク固有のグラフ構造を学習することで、少数ショットノード分類の性能が向上するか？
• RQ2 ノード影響度は、タスク固有部分グラフを構築するための関連ノード選択にどのように寄与するか？
• RQ3 クエリノードとラベルの間の相互情報量を最大化することで、分類精度はどの程度向上するか？
• RQ4 単一グラフおよび複数グラフの両設定において、フレームワークの性能はどのように変化するか？
• RQ5 ノード影響度モジュールと相互情報量モジュールの相対的寄与度は、全体のフレームワークにおいてどの程度か？

主な発見

• GLITTERは、単一グラフおよび複数グラフ設定の5つの実世界のノード分類データセットにおいて、全般に最先端の性能を達成した。
• アブレーションスタディの結果、ノード選択、ノード影響度、相互情報量のいずれのモジュールを削除しても性能が著しく低下し、各モジュールの必要性が裏付けられた。
• ノードが含まれる非交差する複数グラフ設定において、GLITTERはより高い性能を発揮した。これは、低リソース状況下でのタスク固有構造学習の重要性を示している。
• ノード影響度モジュールを削除すると、メタタスクごとのクラス数が増えるほど性能低下が顕著になるため、クラス固有の表現を区別する役割を果たしていることが示された。
• 特に元のグラフ上でクエリノードとサポートノードが離れている場合、相互情報量モジュールの寄与度がノード影響度モジュールよりも顕著に高くなる。
• 訓練グラフとテストグラフが非交差する場合でも、適応的構造学習メカニズムのおかげで、GLITTERは未観測のグラフに対しても良好に一般化した。