[论文解读] Hypergraph Convolutional Networks via Equivalency between Hypergraphs and Undirected Graphs

Jiying Zhang, Fuyang Li+5 more|arXiv (Cornell University)|Mar 31, 2022

Advanced Graph Neural Networks被引用 9

一句话总结

该论文提出了一种通用超图谱卷积（GHSC）框架，通过两步随机游走建立广义超图与无向图之间的等价关系，将现有图卷积神经网络（GCNNs）统一应用于依赖边的顶点加权超图（EDVW）和独立边的顶点加权超图（EIVW），在社交网络、视觉和生物信息学等多个基准上实现了最先进性能。

ABSTRACT

As a powerful tool for modeling complex relationships, hypergraphs are gaining popularity from the graph learning community. However, commonly used frameworks in deep hypergraph learning focus on hypergraphs with edge-independent vertex weights (EIVWs), without considering hypergraphs with edge-dependent vertex weights (EDVWs) that have more modeling power. To compensate for this, we present General Hypergraph Spectral Convolution (GHSC), a general learning framework that not only handles EDVW and EIVW hypergraphs, but more importantly, enables theoretically explicitly utilizing the existing powerful Graph Convolutional Neural Networks (GCNNs) such that largely ease the design of Hypergraph Neural Networks. In this framework, the graph Laplacian of the given undirected GCNNs is replaced with a unified hypergraph Laplacian that incorporates vertex weight information from a random walk perspective by equating our defined generalized hypergraphs with simple undirected graphs. Extensive experiments from various domains including social network analysis, visual objective classification, and protein learning demonstrate the state-of-the-art performance of the proposed framework.

研究动机与目标

• 解决深度超图学习中缺乏对依赖边的顶点加权（EDVW）超图的严谨框架的问题。
• 通过使现有图卷积神经网络（GCNNs）能够直接应用于EDVW和EIVW超图，弥合超图学习与现有GCNNs之间的鸿沟。
• 从随机游走的视角出发，构建一个理论基础坚实的统一拉普拉斯矩阵，以编码顶点权重信息。
• 在多样化的现实世界领域中，验证所提框架的泛化能力和有效性。

提出的方法

• 通过两步随机游走过程，定义一个包含依赖边顶点权重（EDVWs）的广义超图模型。
• 建立广义超图与等价加权无向图之间的等价条件，从而支持标准GCNN的应用。
• 从随机游走中推导出一个嵌入顶点权重信息的统一超图拉普拉斯矩阵，替代GCNN中的标准图拉普拉斯矩阵。
• 将现有GCNN中的图拉普拉斯矩阵替换为推导出的统一超图拉普拉斯矩阵，形成GHSC框架。
• 引入重归一化技巧，以保留孤立顶点的特征，提升在非连通超图数据集上的性能。
• 将该框架应用于多种GCNN架构（如GCN、SGC、APPNP），并在引文、视觉和蛋白质数据集上进行评估。

实验结果

研究问题

• RQ1 能否通过与无向图的系统性等价关系，对超图中的依赖边顶点权重进行建模？
• RQ2 如何在不进行架构重构的前提下，使现有图卷积神经网络（GCNNs）适应EDVW和EIVW超图？
• RQ3 通过随机游走将广义超图映射为等价无向图的理论基础是什么？
• RQ4 与现有方法相比，所提出的统一拉普拉斯矩阵在超图学习任务上的性能提升程度如何？
• RQ5 重归一化技巧对性能的影响如何，特别是在非连通超图数据集上？

主要发现

• GHSC在Cora（74.79% ± 0.91）、PubMed（75.37% ± 1.2）、NTU（85.15% ± 0.34）和ModelNet40（97.28% ± 0.15）数据集上均达到最先进性能。
• 消融实验表明，顶点权重矩阵Q和重归一化均有效，其中重归一化在非连通数据集（如Cora和PubMed）上显著提升性能。
• 在Cora和PubMed上，启用与禁用重归一化之间的性能差距显著（例如，Cora上分别为69.23%和74.79%），凸显其在保留孤立顶点特征方面的作用。
• H-SSGC在同时使用Q和重归一化时，在Cora上达到75.91% ± 0.75，在ModelNet40上达到97.74% ± 0.05，优于基线方法。
• H-GCN和H-SSGC的运行时间与UniGNN等SOTA模型相当，且显著快于HGAT和HyperGCN，其中H-GCN在Cora合作者数据集上每轮训练耗时0.005s ± 0.002。
• 可视化结果表明，HGAT的可学习注意力机制与EDVW矩阵Q相似，验证了所提框架的可解释性。