[论文解读] Principled Hyperedge Prediction with Structural Spectral Features and Neural Networks

Changlin Wan, Muhan Zhang+4 more|arXiv (Cornell University)|Jun 8, 2021

Infrastructure Maintenance and Monitoring参考文献 40被引用 10

一句话总结

本文提出 SNALS，一种新颖的框架，通过结合二分图神经网络与结构谱特征，解决超图表示学习中边级和节点级的模糊性问题。通过捕捉局部谱信息中的联合交互，SNALS 在超边预测任务上相比最先进模型实现近 30% 的性能提升，其有效性已在合成数据和 3D 基因组互作数据上得到验证。

ABSTRACT

Hypergraph offers a framework to depict the multilateral relationships in real-world complex data. Predicting higher-order relationships, i.e hyperedge, becomes a fundamental problem for the full understanding of complicated interactions. The development of graph neural network (GNN) has greatly advanced the analysis of ordinary graphs with pair-wise relations. However, these methods could not be easily extended to the case of hypergraph. In this paper, we generalize the challenges of GNN in representing higher-order data in principle, which are edge- and node-level ambiguities. To overcome the challenges, we present SNALS that utilizes bipartite graph neural network with structural features to collectively tackle the two ambiguity issues. SNALS captures the joint interactions of a hyperedge by its local environment, which is retrieved by collecting the spectrum information of their connections. As a result, SNALS achieves nearly 30% performance increase compared with most recent GNN-based models. In addition, we applied SNALS to predict genetic higher-order interactions on 3D genome organization data. SNALS showed consistently high prediction accuracy across different chromosomes, and generated novel findings on 4-way gene interaction, which is further validated by existing literature.

研究动机与目标

• 将超边预测中的核心挑战形式化为边级模糊性和节点级模糊性，其根源在于超图与普通图之间的结构差异。
• 开发一种系统性方法，联合解决两类模糊性，以提升超边表示学习性能。
• 通过引入局部超边环境的谱信息，增强 GNN 对高阶关系的表达能力。
• 在真实世界的 3D 基因组组织数据上验证模型，证明其能够预测具有生物学合理性的高阶遗传互作。

提出的方法

• SNALS 采用二分图神经网络，建模超边与其组成节点之间的交互，通过显式表示超边结构来解决边级模糊性。
• 通过整合来自每个超边局部邻域的结构谱特征，捕捉联合依赖关系，缓解节点级模糊性。
• 谱特征通过每个超边及其节点所诱导的二分子图的拉普拉斯谱计算得出，编码拓扑上下文信息。
• 模型采用双流架构：一者用于节点级聚合，另一者通过二分消息传递实现超边级表征学习。
• 训练过程中采用负采样策略，每条正样本超边配以五个负样本超边，以提升泛化能力。
• 对超参数进行了广泛调优，以在不同数据集上优化模型性能。

实验结果

研究问题

• RQ1 边级和节点级模糊性如何限制现有基于 GNN 的超边预测模型的性能？
• RQ2 统一框架能否通过结构与谱建模有效解决两类模糊性？
• RQ3 引入局部超边环境的谱信息是否能提升超图中的表示学习性能？
• RQ4 SNALS 是否能在多样化的生物与合成超图数据集中保持一致的高性能表现？
• RQ5 SNALS 能否在 3D 基因组数据中预测出具有生物学意义的高阶遗传互作，并通过现有文献验证？

主要发现

• SNALS 在超边预测基准测试中，平均性能比最强基线 FamilySet 提升约 30%。
• 与强 SOTA 方法 setSEAL 相比，模型性能提升达 13%，证明联合解决两类模糊性具有显著有效性。
• 引入局部谱特征（SNALS(f₁)）可进一步提升性能，尤其在 threds 数据集上表现突出，证实其不可或缺的作用。
• 在 3D 基因组数据上，SNALS 在全部 17 条常染色体上均保持一致且稳定的 AUC 表现，而 setSEAL 则表现出对特定染色体的偏差。
• SNALS 预测出染色体 11 上一个新颖的四元遗传互作，涉及 bin 5521、5589、5602 和 5630，该区域位于同一 TAD 内，且与共调控基因 Map2k6 和 Kcnj2 相关，经现有文献验证。
• 被预测为最高置信度的四元互作具有生物学合理性，因其涉及一个增强子（E0524334）和共调控基因，暗示其具有功能相关性。