[论文解读] 2-hop Neighbor Class Similarity (2NCS): A graph structural metric indicative of graph neural network performance

Andrea Cavallo, Claas Grohnfeldt+3 more|arXiv (Cornell University)|Dec 26, 2022

Advanced Graph Neural Networks被引用 5

一句话总结

本文提出了一种新型图结构度量方法——两跳邻居类别相似性（2NCS），通过分析节点两跳邻域内的标签分布，量化图拓扑对图神经网络（GNN）性能的支持程度。与同质性或CCNS不同，2NCS捕捉了GCN类消息传递机制中二阶邻域信息的理论影响，展示了在真实图和合成图上与GCN和GAT准确率之间更强且更一致的相关性。

ABSTRACT

Graph Neural Networks (GNNs) achieve state-of-the-art performance on graph-structured data across numerous domains. Their underlying ability to represent nodes as summaries of their vicinities has proven effective for homophilous graphs in particular, in which same-type nodes tend to connect. On heterophilous graphs, in which different-type nodes are likely connected, GNNs perform less consistently, as neighborhood information might be less representative or even misleading. On the other hand, GNN performance is not inferior on all heterophilous graphs, and there is a lack of understanding of what other graph properties affect GNN performance. In this work, we highlight the limitations of the widely used homophily ratio and the recent Cross-Class Neighborhood Similarity (CCNS) metric in estimating GNN performance. To overcome these limitations, we introduce 2-hop Neighbor Class Similarity (2NCS), a new quantitative graph structural property that correlates with GNN performance more strongly and consistently than alternative metrics. 2NCS considers two-hop neighborhoods as a theoretically derived consequence of the two-step label propagation process governing GCN's training-inference process. Experiments on one synthetic and eight real-world graph datasets confirm consistent improvements over existing metrics in estimating the accuracy of GCN- and GAT-based architectures on the node classification task.

研究动机与目标

• 识别比现有度量（如同质性和CCNS）更能预测GNN性能的图结构属性。
• 通过分析二阶邻域信息的作用，解决GNN在异质图上性能不一致的问题。
• 基于节点两跳邻域内的标签分布，推导出一个理论基础扎实且可量化的度量指标。
• 验证2NCS在多种图数据集上与GNN准确率的相关性优于其他替代度量。

提出的方法

• 将2NCS定义为每个节点在两跳邻域中同类节点的平均比例，归一化处理后以两跳邻域集合的大小为基准。
• 对简化的一层GCN模型进行理论分析，揭示节点分类依赖于两跳邻域内的标签分布。
• 将两跳邻域用作GCN中标签传播过程的代理，其中节点表示受邻居的邻居影响。
• 在节点级别和图级别分别计算2NCS，以评估其对GNN性能的预测能力。
• 在八个真实世界图和一个合成图上，使用皮尔逊相关系数比较2NCS与同质性比率$h$和CCNS在GCN和GAT准确率上的表现。
• 进行类别级别分析，将2NCS值与GNN相对于MLP在各类别上的性能提升关联起来。

实验结果

研究问题

• RQ1 在多种图类型中，2NCS与同质性和CCNS相比，在预测GNN性能方面表现如何？
• RQ2 两跳邻域中的标签分布在多大程度上影响GNN节点分类准确率？
• RQ3 2NCS能否解释为何GNN在某些异质图上优于MLP，而在其他图上则不然？
• RQ4 2NCS在节点级别和图级别上是否与GNN性能的相关性强于现有度量？
• RQ5 各类别下的2NCS值与各类别下GNN相对于MLP的性能提升是否一致？

主要发现

• 在八个真实世界图中，2NCS与GCN和GAT准确率的皮尔逊相关性显著强于同质性比率$h$或CCNS。
• 在Chameleon数据集中，2NCS与GCN准确率的相关系数为$r = 0.90$，而$h$为$r = 0.68$，CCNS为$r = 0.75$。
• 在Squirrel数据集中，2NCS与GCN准确率的相关系数为$r = 0.88$，优于$h$（$r = 0.65$）和CCNS（$r = 0.72$）。
• 在Chameleon上，高类别2NCS值（如0.40–0.43）的类别显示出GNN相对于MLP的显著性能提升，而低2NCS值类别（如Squirrel上的0.15）则表现出MLP优于GNN。
• 简化版GCN模型（其结构与2NCS推导过程一致）达到了与标准GCN相当的准确率，验证了其理论基础的合理性。
• 2NCS正确识别出示意图中节点0可分类，因其两跳邻居主要为同类别，而$h$和CCNS则未能捕捉到这一模式。