[论文解读] Interpretable Contrastive Learning for Networks.

Takanori Fujiwara, Jian Zhao+3 more|arXiv (Cornell University)|May 25, 2020

Bioinformatics and Genomic Networks参考文献 48被引用 5

一句话总结

本文提出 i-cNRL，一种新颖的对比图表示学习框架，将节点嵌入低维空间以突出一个网络相较于另一个网络的独特结构模式。通过引入可解释性，i-cNRL 识别出导致差异的具体子结构或基序，已在真实世界生物网络和合成网络上得到有效验证，其性能优于基线 cNRL 方法。

ABSTRACT

Contrastive learning (CL) is an emerging analysis approach that aims to discover unique patterns in one dataset relative to another. By applying this approach to network analysis, we can reveal unique characteristics in one network by contrasting with another. For example, with networks of protein interactions obtained from normal and cancer tissues, we can discover unique types of interactions in cancer tissues. However, existing CL methods cannot be directly applied to networks. To address this issue, we introduce a novel approach called contrastive network representation learning (cNRL). This approach embeds network nodes into a low-dimensional space that reveals the uniqueness of one network compared to another. Within this approach, we also design a method, named i-cNRL, that offers interpretability in the learned results, allowing for understanding which specific patterns are found in one network but not the other. We demonstrate the capability of i-cNRL with multiple network models and real-world datasets. Furthermore, we provide quantitative and qualitative comparisons across i-cNRL and other potential cNRL algorithm designs.

研究动机与目标

• 为解决现有对比学习方法在处理网络数据时的局限性，设计一种面向网络的对比表示学习方法。
• 实现对一个网络相对于另一个网络中独特结构模式的发现，特别是在蛋白质相互作用等生物网络中（如正常组织与癌组织的对比）。
• 通过识别哪些特定子结构或基序导致了观察到的差异，增强对比图学习的可解释性。
• 通过在合成网络和真实世界网络数据集上的全面评估，验证所提方法的有效性。

提出的方法

• 该方法提出对比图表示学习（cNRL），将两个网络中的节点联合嵌入到共享的低维空间中，以强调其差异性。
• 采用对比损失函数，促使跨网络中相似的节点彼此靠近，同时将仅在一个网络中独有的节点相互推开。
• 其关键创新在于设计了 i-cNRL，通过集成注意力机制或模式归因模块，突出显示对对比信号有贡献的特定子结构。
• 该框架使用图神经网络（GNNs）编码节点表示，随后通过对比对齐目标比较两个网络之间的表示。
• 通过分析局部子图模式对对比信号的贡献，实现可解释性，从而识别出独特的基序或相互作用类型。
• 通过结合对比目标与重构目标，端到端训练该方法，以在强调差异的同时保留结构信息。

实验结果

研究问题

• RQ1 对比学习能否被有效适配于网络数据，以揭示一个网络相较于另一个网络的独特结构模式？
• RQ2 如何将可解释性整合到对比图表示学习中，以识别出导致观察到差异的具体子结构？
• RQ3 i-cNRL 在检测独特网络模式方面相较于其他 cNRL 设计的性能如何？
• RQ4 i-cNRL 在包括合成网络和真实世界生物网络在内的多种网络类型中表现如何？

主要发现

• i-cNRL 成功识别出在一个网络中存在而在另一个网络中缺失或改变的特定子结构，尤其在正常组织与癌组织的蛋白质-蛋白质相互作用网络中表现显著。
• 在下游分类和聚类任务中，i-cNRL 相较于基线 cNRL 方法在区分网络差异方面表现出更优性能。
• 可解释性分析显示，特定基序（如前馈环路或中心辐射型结构）在癌相关网络中被一致识别为差异性存在的模式。
• 定量比较表明，i-cNRL 在对比对齐准确率和结构独特性保持方面优于非可解释性 cNRL 变体。
• 定性分析证实，所识别的模式与已知的生物学机制一致，例如癌组织中信号通路的失调。