[论文解读] Hypergraph Neural Networks

Yifan Feng, Haoxuan You+3 more|arXiv (Cornell University)|Sep 25, 2018

Advanced Graph Neural Networks参考文献 15被引用 5

一句话总结

本文提出超图神经网络（HGNN），一种通过超图结构建模高阶数据相关性的图卷积网络通用框架。通过引入超边卷积操作，HGNN能够高效捕捉数据中的复杂、多模态关系，在引文网络和视觉物体识别任务中优于GCN及当前最先进方法，尤其在多模态特征下表现更优。

ABSTRACT

In this paper, we present a hypergraph neural networks (HGNN) framework for data representation learning, which can encode high-order data correlation in a hypergraph structure. Confronting the challenges of learning representation for complex data in real practice, we propose to incorporate such data structure in a hypergraph, which is more flexible on data modeling, especially when dealing with complex data. In this method, a hyperedge convolution operation is designed to handle the data correlation during representation learning. In this way, traditional hypergraph learning procedure can be conducted using hyperedge convolution operations efficiently. HGNN is able to learn the hidden layer representation considering the high-order data structure, which is a general framework considering the complex data correlations. We have conducted experiments on citation network classification and visual object recognition tasks and compared HGNN with graph convolutional networks and other traditional methods. Experimental results demonstrate that the proposed HGNN method outperforms recent state-of-the-art methods. We can also reveal from the results that the proposed HGNN is superior when dealing with multi-modal data compared with existing methods.

研究动机与目标

• 解决图卷积网络在建模超越成对关系的复杂高阶数据相关性方面的局限性。
• 开发一种高效的深度学习框架，通过引入超图结构泛化GCN，以实现更优的表征学习。
• 通过利用可连接多于两个节点的灵活超边，实现从多模态数据中有效学习。
• 通过可微分、与神经网络兼容的超边卷积操作，克服传统超图学习方法的高计算成本。
• 在引文网络分类与视觉物体识别等真实任务中，证明HGNN的优越性。

提出的方法

• HGNN将数据建模为超图，其中超边可连接任意数量的节点，从而实现对高阶与复杂相关性的建模。
• 设计了一种超边卷积操作，用于在超边上传播特征，利用超图拉普拉斯矩阵将谱图卷积推广至超图。
• 为提升计算效率与稳定性，采用截断切比雪夫多项式近似超图卷积。
• 通过为每种模态构建独立的超图邻接矩阵，并将其拼接为统一的多模态超图结构，实现多模态特征的融合。
• 采用端到端反向传播训练模型，超边卷积层支持梯度通过超图结构流动。
• 当超边被限制为仅连接两个节点（即二阶超边）时，HGNN可退化为GCN的特例。

实验结果

研究问题

• RQ1 基于超图的神经网络框架能否有效建模超越成对关系的高阶数据相关性？
• RQ2 所提出的超边卷积操作在捕捉复杂数据结构方面，与传统图卷积相比表现如何？
• RQ3 与现有方法相比，HGNN在多模态数据上的性能提升程度如何？
• RQ4 在真实任务中，HGNN能否实现优于GCN与传统超图学习方法的表征学习能力？
• RQ5 多模态信息的融合如何影响HGNN在视觉物体识别与引文分类任务中的性能？

主要发现

• 在ModelNet40数据集上，HGNN优于当前最先进方法，较PointCNN提升4.8%准确率，较SO-Net提升3.2%。
• 在NTU数据集上，使用GVCNN与MVCNN特征时，HGNN相较GCN提升10.4%，展现出在多模态数据上的强大性能。
• 即使仅使用单一特征，HGNN仍表现出一致改进：在NTU数据集上使用MVCNN特征时，较GCN提升2.0%。
• 当使用多模态特征时性能提升最为显著，凸显HGNN有效融合异构数据源的能力。
• 在所有实验中，HGNN均优于GCN，准确率提升范围为0.3%至8.3%，具体取决于特征集与数据集。
• 结果证实，与标准图结构相比，超图结构在捕捉复杂数据关系方面更为有效，尤其在多模态设置中。