[论文解读] Line Hypergraph Convolution Network: Applying Graph Convolution for Hypergraphs

Sambaran Bandyopadhyay, Kishalay Das+1 more|arXiv (Cornell University)|Feb 9, 2020

Advanced Graph Neural Networks参考文献 33被引用 21

一句话总结

本文提出线超图卷积网络（LHCN），一种新颖方法，通过将超图转换为加权、带属性的线图，将图卷积应用于超图，从而实现有效的节点分类与表征学习。LHCN在基准数据集上达到最先进性能，在Cora数据集上相比现有超图神经网络最高提升8.4%，且在t-SNE可视化中表现出更优的聚类质量。

ABSTRACT

Network representation learning and node classification in graphs got significant attention due to the invent of different types graph neural networks. Graph convolution network (GCN) is a popular semi-supervised technique which aggregates attributes within the neighborhood of each node. Conventional GCNs can be applied to simple graphs where each edge connects only two nodes. But many modern days applications need to model high order relationships in a graph. Hypergraphs are effective data types to handle such complex relationships. In this paper, we propose a novel technique to apply graph convolution on hypergraphs with variable hyperedge sizes. We use the classical concept of line graph of a hypergraph for the first time in the hypergraph learning literature. Then we propose to use graph convolution on the line graph of a hypergraph. Experimental analysis on multiple real world network datasets shows the merit of our approach compared to state-of-the-arts.

研究动机与目标

• 为解决图卷积网络（GCNs）在处理任意超边大小的超图时面临的挑战，因为传统GCNs受限于成对边的假设而无法处理此类问题。
• 探索利用超图的线图作为超图学习的新表征形式，将经典图论在新型深度学习场景中加以应用。
• 开发一种支持非均匀超图的方法，实现端到端的节点分类与表征学习。
• 通过引入更富表达性且结构上更忠实的超图数据转换方式，超越现有超图神经网络。
• 提供可复现且公开可用的实现，以推动超图表征学习领域的研究进展。

提出的方法

• 将超图转换为其线图，其中每个超边变为一个节点，若两个超边至少共享一个公共节点，则在它们之间建立连接。
• 通过基于节点与超边关系分配特征，构建加权且带属性的线图，以保留结构与语义信息。
• 在该线图上应用两层图卷积网络（GCN），以聚合超边邻域内的特征。
• 采用反向映射策略，将线图节点的预测结果回传至原始超图节点，以实现节点分类。
• 使用带有学习率衰减的Adam优化器进行模型优化，最小化标记节点上的交叉熵损失。
• 利用t-SNE可视化学习到的超节点表征，以评估聚类质量。

实验结果

研究问题

• RQ1 经典线图概念是否能有效用于支持对具有可变超边大小的超图进行图卷积？
• RQ2 LHCN在标准节点分类基准上的性能与最先进超图神经网络相比如何？
• RQ3 线图变换是否保留了足够的结构与语义信息，以支持有效的表征学习与分类？
• RQ4 在半监督设置下，模型性能如何随训练集大小的变化而变化？
• RQ5 LHCN学习到的表征是否在视觉上可解释为具有良好的类别可分性？

主要发现

• 在Cora数据集上，LHCN的测试准确率达到73.34% ± 1.7，相比最接近的基线模型（HyperGCN）高出约8.4%。
• 在Citeseer上，LHCN达到63.19% ± 2.23，略优于HyperGCN及其他基线模型。
• 在Pubmed上，LHCN取得70.76% ± 2.36的准确率，表现出强劲性能，与最先进模型HyperGCN相当。
• LHCN的训练损失迅速下降并平稳收敛，表明在自适应学习率调度下优化过程稳定。
• 将训练集大小从50%提升至95%可显著且一致地提高分类准确率，证实了对标注数据的有效利用。
• LHCN生成表征的t-SNE可视化显示出清晰的类别分离，表明学习到的节点嵌入具有高质量与强判别性。