[论文解读] SLGCN: Structure Learning Graph Convolutional Networks for Graphs under Heterophily.

Mengying Jiang, Guizhong Liu+2 more|arXiv (Cornell University)|May 28, 2021

Advanced Graph Neural Networks参考文献 19被引用 2

一句话总结

SLGCN 通过学习一个优化的邻接矩阵并利用基于锚点的谱聚类增强特征聚合，解决了图神经网络（GNN）在异质图中的局限性。它通过联合优化结构与特征学习，在多种基准数据集上优于当前最先进水平的 GNN，实现了更优的节点分类性能。

ABSTRACT

The performances of GNNs for representation learning on the graph-structured data are generally limited to the issue that existing GNNs rely on one assumption, i.e., the original graph structure is reliable. However, since real-world graphs is inevitably noisy or incomplete, this assumption is often unrealistic. In this paper, we propose a structure learning graph convolutional networks (SLGCNs) to alleviate the issue from two aspects, and the proposed approach is applied to node classification. Specifically, the first is node features, we design a efficient-spectral-clustering with anchors (ESC-ANCH) approach to efficiently aggregate feature representationsfrom all similar nodes, no matter how far away they are. The second is edges, our approach generates a re-connected adjacency matrix according to the similarities between nodes and optimized for the downstream prediction task so as to make up for the shortcomings of original adjacency matrix, considering that the original adjacency matrix usually provides misleading information for aggregation step of GCN in the graphs with low level of homophily. Both the re-connected adjacency matrix and original adjacency matrix are applied to SLGCNs to aggregate feature representations from nearby nodes. Thus, SLGCNs can be applied to graphs with various levels of homophily. Experimental results on a wide range of benchmark datasets illustrate that the proposed SLGCNs outperform the stat-of-the-art GNN counterparts.

研究动机与目标

• 解决现有 GNN 假设原始图结构可靠的问题，而这一假设在现实世界中存在噪声或不完整图时往往不成立。
• 克服在低同质性图中 GNN 性能下降的问题，因为原始边会为消息传递提供误导性信息。
• 通过联合优化结构化与基于特征的消息传递机制，改进节点表示学习。
• 通过基于节点相似性的重新连接邻接矩阵学习，开发一种对不同同质性水平具有鲁棒性的方法。
• 通过一种高效的基于锚点的谱聚类方法，利用长程相似性，增强特征聚合。

提出的方法

• 提出一种基于锚点的高效谱聚类（ESC-ANCH），可从所有相似节点聚合特征表示，无论其空间距离远近。
• 基于学习到的节点相似性构建重新连接的邻接矩阵，替代或补充原始邻接矩阵，以减少噪声并提升消息传递效果。
• 端到端优化重新连接的邻接矩阵，以适配下游节点分类任务，确保与预测目标对齐。
• 在多关系消息传递机制中结合原始与重新连接的邻接矩阵，以在 SLGCN 中丰富特征聚合。
• 利用基于锚点的谱聚类，实现对大规模图的高效扩展，同时保持基于相似性的连接模式。
• 将优化后的图结构与增强的特征整合进 GCN 框架，使其在同质性与异质性图环境中均具有泛化能力。

实验结果

研究问题

• RQ1 当原始邻接矩阵因噪声或不完整而不可靠时，GNN 是否能在低同质性图中实现鲁棒性能？
• RQ2 如何在不依赖直接边连接的情况下，有效聚合远距离相似节点的特征表示？
• RQ3 基于节点相似性学习重新连接邻接矩阵，与使用原始图结构相比，能在多大程度上提升 GNN 性能？
• RQ4 联合优化结构与特征学习是否能实现对不同同质性水平图的更好泛化？
• RQ5 所提出的 ESC-ANCH 方法在保持基于相似性的特征聚合准确性的同时，如何实现对大规模图的高效扩展？

主要发现

• SLGCN 在广泛范围的基准数据集上实现了最先进性能，展现出在不同同质性水平下的卓越泛化能力。
• 所提出的 ESC-ANCH 方法通过识别并分组相似节点（即使未直接连接），实现了有效的长程特征聚合。
• 学习重新连接的邻接矩阵显著提升了异质图中 GNN 的性能，因为原始边在此类图中具有误导性。
• 同时使用原始与重新连接的邻接矩阵，相比单独使用任一矩阵，能生成更鲁棒、更丰富的节点表示。
• 该方法在低同质性图中表现出持续优于现有 GNN 的性能提升，而传统 GNN 在此类图中通常表现不佳。
• 重新连接的邻接矩阵通过端到端方式优化，以适配下游预测任务，从而增强与分类目标的对齐。