[论文解读] Graph Few-shot Learning with Task-specific Structures

Song Wang, Chen Chen+1 more|arXiv (Cornell University)|Oct 21, 2022

Advanced Graph Neural Networks被引用 6

一句话总结

本文提出 GLITTER，一种新颖的图少样本学习框架，通过学习任务特定的图结构来提升低少样本设置下的节点分类性能。通过基于影响度选择相关节点，并利用互信息优化边权重，GLITTER 增强了任务特定的表示能力，在单图与多图设置下的五个数据集上均实现了最先进性能。

ABSTRACT

Graph few-shot learning is of great importance among various graph learning tasks. Under the few-shot scenario, models are often required to conduct classification given limited labeled samples. Existing graph few-shot learning methods typically leverage Graph Neural Networks (GNNs) and perform classification across a series of meta-tasks. Nevertheless, these methods generally rely on the original graph (i.e., the graph that the meta-task is sampled from) to learn node representations. Consequently, the graph structure used in each meta-task is identical. Since the class sets are different across meta-tasks, node representations should be learned in a task-specific manner to promote classification performance. Therefore, to adaptively learn node representations across meta-tasks, we propose a novel framework that learns a task-specific structure for each meta-task. To handle the variety of nodes across meta-tasks, we extract relevant nodes and learn task-specific structures based on node influence and mutual information. In this way, we can learn node representations with the task-specific structure tailored for each meta-task. We further conduct extensive experiments on five node classification datasets under both single- and multiple-graph settings to validate the superiority of our framework over the state-of-the-art baselines. Our code is provided at https://github.com/SongW-SW/GLITTER.

研究动机与目标

• 解决现有图少样本学习方法在所有元任务中均使用固定原始图结构的局限性。
• 通过动态构建任务特定的图结构，定制化每个元任务的节点表示，以提升分类性能。
• 克服在稀疏、少样本元任务中选择相关节点并学习有意义边权重的挑战。
• 在单图与多图设置下实现有效的少样本学习，包括图之间不相交的场景。
• 通过利用节点影响度与标签查询互信息，构建可适应多样化元任务组合的框架。

提出的方法

• 基于节点影响度策略，通过衡量对支持节点的总体影响，为每个元任务提取相关节点。
• 通过最大化查询节点与其潜在类别标签之间的互信息，学习任务特定的边权重。
• 通过增强任务特定结构中同类节点间的影响度，提升类内相关性。
• 构建包含支持节点、查询节点以及从原始图中选取的相关节点的任务特定子图。
• 将学习到的任务特定结构整合到基于 GNN 的分类头中，用于少样本节点分类。
• 采用元学习方式进行端到端训练，其中每个元任务从训练图中采样，并在独立的测试图上进行评估。

实验结果

研究问题

• RQ1 与使用固定原始图结构相比，学习任务特定的图结构是否能提升少样本节点分类性能？
• RQ2 节点影响度在选择用于构建任务特定子图的相关节点方面起到何种作用？
• RQ3 最大化查询节点与标签之间的互信息在多大程度上提升了分类准确率？
• RQ4 该框架在不同少样本设置下的表现如何，包括单图与多图场景？
• RQ5 节点影响度模块与互信息模块在整体框架中的相对贡献如何？

主要发现

• GLITTER 在单图与多图设置下的五个真实世界节点分类数据集中均实现了最先进性能。
• 消融实验表明，若移除任意一个模块——节点选择、节点影响度或互信息——性能均显著下降，证明了每个模块的必要性。
• 当包含相关节点时，该框架在图之间不相交的多图设置下表现更优，凸显了在低资源场景中学习任务特定结构的重要性。
• 随着每个元任务中类别数量的增加，移除节点影响度模块会导致更大的性能下降，表明其在区分类别特定表示方面的作用。
• 在某些设置下，特别是当查询节点在原始图中远离支持节点时，互信息模块的贡献显著高于节点影响度模块。
• 由于其自适应结构学习机制，该框架在未见图上泛化良好，尤其在训练图与测试图不相交时表现更优。