Skip to main content
QUICK REVIEW

[论文解读] Structural Entropy Guided Graph Hierarchical Pooling

Junran Wu, Xueyuan Chen|arXiv (Cornell University)|Jun 26, 2022
Advanced Graph Neural Networks被引用 21
一句话总结

SEP 引入一种基于结构熵的全局优化的分层池化操作符,解决图池化中的局部结构损伤和固定压缩配额问题,并展示在图和节点分类任务上的优越性能。

ABSTRACT

Following the success of convolution on non-Euclidean space, the corresponding pooling approaches have also been validated on various tasks regarding graphs. However, because of the fixed compression quota and stepwise pooling design, these hierarchical pooling methods still suffer from local structure damage and suboptimal problem. In this work, inspired by structural entropy, we propose a hierarchical pooling approach, SEP, to tackle the two issues. Specifically, without assigning the layer-specific compression quota, a global optimization algorithm is designed to generate the cluster assignment matrices for pooling at once. Then, we present an illustration of the local structure damage from previous methods in the reconstruction of ring and grid synthetic graphs. In addition to SEP, we further design two classification models, SEP-G and SEP-N for graph classification and node classification, respectively. The results show that SEP outperforms state-of-the-art graph pooling methods on graph classification benchmarks and obtains superior performance on node classifications.

研究动机与目标

  • 识别现有分层图池化方法的局限性(局部结构损伤和固定的压缩配额)。
  • 开发由结构熵引导的全局优化池化方案,以保留图结构。
  • 在图重构、图分类和节点分类任务中展示 SEP 的效果。

提出的方法

  • 通过结构熵最小化算法定义簇分配,产生一个固定高度的编码树且不带层特定配额。
  • 通过 A_{i+1}=S_i A_i S_i^T 和 P_{i+1}=S_i H_i 进行池化,以获得粗化的图和特征。
  • 将 SEP 与基于 GCN 的架构整合,形成图分类模型 SEP-G。
  • 开发 SEP-N,一种带有基于 SEP 的池化和解池化的编码器–解码器架构,用于节点分类。
  • 证明 SEP 在节点重新标注下的置换不变性。
  • 提供一种贪心算法(算法1),从结构熵构建高度为 k 的编码树。

实验结果

研究问题

  • RQ1结构熵是否能提供一种全局优化、无配额的分层图池化机制?
  • RQ2与现有方法相比,SEP 在池化过程中是否更好地保留局部图结构?
  • RQ3与最先进的池化方法和骨干网络相比,基于 SEP 的模型在图分类和节点分类基准测试中的表现如何?

主要发现

  • SEP 在图分类基准上达到与最先进方法竞争的性能,在社交网络数据集上尤有显著提升。
  • SEP-G 在多个数据集上持续优于基线骨干网络(GCN、GIN、GAT 等)。
  • SEP-N 在多种设置下在节点分类上取得了有竞争力的结果,在 Cora、Pubmed 和 Citeseer 上超过了若干基线。
  • 图重构实验表明,SEP 比节点丢弃和某些基于聚类的池化方法更好地保留关键信息。
  • 提出的结构熵聚类减少了以往方法中观察到的局部结构损伤。

更好的研究,从现在开始

从论文设计到论文写作,大幅缩短您的研究时间。

无需绑定信用卡

本解读由 AI 生成,并经人工编辑审核。