[论文解读] HyperGCN: A New Method of Training Graph Convolutional Networks on Hypergraphs

Naganand Yadati, Madhav Nimishakavi+4 more|arXiv (Cornell University)|Sep 7, 2018

Advanced Graph Neural Networks参考文献 61被引用 205

一句话总结

HyperGCN 通过线性边近似在超图上训练图卷积网络，在带噪声的超边的半监督学习中优于 HGNN，并在组合优化应用中提供潜在帮助。

ABSTRACT

In many real-world network datasets such as co-authorship, co-citation, email communication, etc., relationships are complex and go beyond pairwise. Hypergraphs provide a flexible and natural modeling tool to model such complex relationships. The obvious existence of such complex relationships in many real-world networks naturaly motivates the problem of learning with hypergraphs. A popular learning paradigm is hypergraph-based semi-supervised learning (SSL) where the goal is to assign labels to initially unlabeled vertices in a hypergraph. Motivated by the fact that a graph convolutional network (GCN) has been effective for graph-based SSL, we propose HyperGCN, a novel GCN for SSL on attributed hypergraphs. Additionally, we show how HyperGCN can be used as a learning-based approach for combinatorial optimisation on NP-hard hypergraph problems. We demonstrate HyperGCN's effectiveness through detailed experimentation on real-world hypergraphs.

研究动机与目标

• 激发在关系超越成对边的超图上进行学习的研究动机。
• 提出一种基于超图拉普拉斯的图卷积框架（HyperGCN），用于引导学习。
• 展示 HyperGCN 在真实世界超图上的半监督学习和组合优化任务中的有效性。
• 将 HyperGCN 与包括 HGNN 和基于 MLP 的方法等基线进行比较，以识别 HyperGCN 擅长的场景。

提出的方法

• 定义基于超图拉普拉斯的近似，将每个超边转化为一组线性边。
• 提出 1-HyperGCN，它对每个超边仅使用一个代表性边进行卷积。
• 通过中介节点增强 1-HyperGCN，形成广义超图拉普拉斯（带中介的 HyperGCN）。
• 引入 FastHyperGCN，使用初始特征预先计算拉普拉斯以加快训练。
• 给出训练算法（HyperGCN、FastHyperGCN、1-HyperGCN）并分析它们的时间复杂度。
• 证明相较于基于团的扩展，HyperGCN 将每个超边的边增长降低为线性。

实验结果

研究问题

• RQ1 如何有效利用超图在神经模型的半监督学习中发挥作用？
• RQ2 在真实世界超图上，HyperGCN 何时优于基于团的 HGNN，特别是在存在较大噪声的超边时？
• RQ3 HyperGCN 变体在准确性与训练时间之间的计算权衡是什么？
• RQ4 HyperGCN 是否可以应用于超图上的组合优化问题，超越 SSL？

主要发现

• HyperGCN、FastHyperGCN 和 1-HyperGCN 在带有噪声大超边的真实世界超图上优于 HGNN（DBLP、PubMed、Cora 合著网络）。
• HyperGCN 在大多数 SSL 数据集上获得最佳平均测试误差：DBLP 24.09±2.0，PubMed 25.56±1.6，Cora 合著 30.08±1.8，Cora 引用 32.37±1.6，Citeseer 37.35±1.6。
• FastHyperGCN 通常提供更快的训练时间和强劲的性能，常接近 HyperGCN。
• HGNN 在超边较小或噪声较少的数据集上仍具竞争力（如 Cora/Citeseer 引用）。
• 在合成/有噪声的超图上，随着超边规模和噪声增加，HyperGCN 方法相对于 HGNN 展现出鲁棒性优势。
• 在超图的组合优化任务中，基于 HyperGCN 的方法在密度方面优于若干基线。