[论文解读] edge2vec: Representation learning using edge semantics for biomedical knowledge discovery

Zheng Gao, Gang Fu+9 more|arXiv (Cornell University)|Sep 7, 2018

Bioinformatics and Genomic Networks参考文献 42被引用 9

一句话总结

edge2vec 是一种新颖的表征学习模型，通过使用期望最大化算法训练的边类型转移矩阵，显式建模异质生物医学知识图谱中的边语义，并利用随机梯度下降进行优化，从而增强节点嵌入。该模型在生物医学实体分类、化合物-基因生物活性预测以及信息检索任务中显著优于当前最先进模型，通过利用不同生物实体之间的关系语义实现性能提升。

ABSTRACT

Representation learning provides new and powerful graph analytical approaches and tools for the highly valued data science challenge of mining knowledge graphs. Since previous graph analytical methods have mostly focused on homogeneous graphs, an important current challenge is extending this methodology for richly heterogeneous graphs and knowledge domains. The biomedical sciences are such a domain, reflecting the complexity of biology, with entities such as genes, proteins, drugs, diseases, and phenotypes, and relationships such as gene co-expression, biochemical regulation, and biomolecular inhibition or activation. Therefore, the semantics of edges and nodes are critical for representation learning and knowledge discovery in real world biomedical problems. In this paper, we propose the edge2vec model, which represents graphs considering edge semantics. An edge-type transition matrix is trained by an Expectation-Maximization approach, and a stochastic gradient descent model is employed to learn node embedding on a heterogeneous graph via the trained transition matrix. edge2vec is validated on three biomedical domain tasks: biomedical entity classification, compound-gene bioactivity prediction, and biomedical information retrieval. Results show that by considering edge-types into node embedding learning in heterogeneous graphs, extbf{edge2vec}\ significantly outperforms state-of-the-art models on all three tasks. We propose this method for its added value relative to existing graph analytical methodology, and in the real world context of biomedical knowledge discovery applicability.

研究动机与目标

• 解决现有图表征学习方法局限于同质图、无法捕捉异质生物医学知识图谱中丰富关系语义的局限性。
• 通过建模边的语义多样性（例如，基因调控、药物抑制）以及节点间的关系，提升复杂生物医学领域中的知识发现能力。
• 开发一种可扩展且高效的方法，用于学习反映节点内容及其连接关系类型的节点嵌入。
• 在多个真实世界生物医学任务中验证模型的有效性，证明其在真实场景中的实用性，而不仅限于合成基准测试。
• 提供一种新型图表征学习框架，以增强生物医学领域中分类、预测和检索等下游任务的性能。

提出的方法

• 该方法引入一种使用期望最大化算法训练的边类型转移矩阵，用于建模异质图中不同边类型之间转换的概率。
• 通过使用训练好的边类型转移矩阵作为先验，利用随机梯度下降学习节点嵌入，使模型在优化过程中能够整合关系语义。
• 该模型将每种边类型视为一种独立的关系，使其能够区分各种生物相互作用，如激活、抑制或共表达。
• 通过在随机游走过程中引入边类型信息，扩展了传统节点嵌入技术（如 node2vec），使游走策略具备关系感知能力。
• 该框架支持多关系图表征学习，将节点特征和边语义联合编码为密集向量表示。
• 最终的节点嵌入被用作下游任务（如分类、预测和检索）的输入，性能在真实生物医学数据集上进行评估。

实验结果

研究问题

• RQ1 在异质图中建模边语义是否能提升生物医学知识发现中的节点表征学习？
• RQ2 在生物医学实体分类任务中，引入边类型信息对性能有何影响？
• RQ3 与现有方法相比，edge2vec 在化合物-基因生物活性预测中的性能提升程度如何？
• RQ4 edge2vec 是否通过捕捉关系上下文提升了生物医学信息检索的准确性？
• RQ5 一种显式建模边类型的表征学习模型，能否在多种生物医学任务中实现泛化？

主要发现

• edge2vec 在生物医学实体分类任务中显著优于最先进模型，通过利用边语义实现了更高的准确率。
• 在化合物-基因生物活性预测任务中，edge2vec 展现出更优的性能，表明关系上下文能提升分子相互作用的预测建模能力。
• 在生物医学信息检索任务中，edge2vec 实现了更高的检索准确率，表明边感知嵌入能增强语义匹配能力。
• 该模型在所有三项评估任务中的性能提升均具有一致性，证实了在异质图中建模边类型的重要性。
• 使用 EM 算法学习的边类型转移矩阵能够实现更有效且上下文感知的随机游走，从而生成更优的节点表征。
• 实验结果验证了边语义在复杂生物医学图中知识发现的关键作用，因为这些图中的关系多样且具有生物学意义。