[论文解读] Towards Interpretable Sparse Graph Representation Learning with Laplacian Pooling

Emmanuel Noutahi, Dominique Beaini+3 more|arXiv (Cornell University)|May 27, 2019

Computational Drug Discovery Methods被引用 13

一句话总结

该论文提出LaPool，一种可微分、可解释的图池化方法，利用图拉普拉斯矩阵基于结构和特征对节点进行聚类，实现分子图的分层粗化。该方法在分子图分类与生成基准测试中优于现有池化方法，同时实现了更清晰的子结构解释，分子生成任务中有效性达98.8%，独特性达65.5%。

ABSTRACT

Recent work in graph neural networks (GNNs) has led to improvements in molecular activity and property prediction tasks. Unfortunately, GNNs often fail to capture the relative importance of interactions between molecular substructures, in part due to the absence of efficient intermediate pooling steps. To address these issues, we propose LaPool (Laplacian Pooling), a novel, data-driven, and interpretable hierarchical graph pooling method that takes into account both node features and graph structure to improve molecular representation. We benchmark LaPool on molecular graph prediction and understanding tasks and show that it outperforms recent GNNs. Interestingly, LaPool also remains competitive on non-molecular tasks. Both quantitative and qualitative assessments are done to demonstrate LaPool's improved interpretability and highlight its potential benefits in drug design. Finally, we demonstrate LaPool's utility for the generation of valid and novel molecules by incorporating it into an adversarial autoencoder.

研究动机与目标

• 解决现有分子图池化方法在可解释性与结构保留方面的不足。
• 通过实现分层、结构感知的池化，提升图神经网络中的图表示学习，以捕捉子结构的重要性。
• 开发一种既可微分又对节点排列具有鲁棒性的池化机制，适用于端到端训练。
• 在分子性质预测与生成建模任务上评估该方法，展示其性能与可解释性的提升。
• 建立一个基准数据集，用于评估分子图表示学习中的可解释性。

提出的方法

• LaPool利用图拉普拉斯矩阵计算谱嵌入，以指导基于结构相似性的节点聚类。
• 通过基于拉普拉斯嵌入的可学习注意力机制，动态选择作为聚类代表的中心节点。
• 通过稀疏、可微分的注意力机制将非中心节点（从属节点）分配至聚类，同时保留图结构。
• 池化过程可微分且支持端到端训练，可无缝集成至现有图神经网络架构中。
• 采用基于GIN的编码器，引入排列不变的重建损失，提升对节点顺序的鲁棒性。
• 在变分自编码器（WAE）框架中评估该方法，以QM9作为基准数据集进行分子生成。

实验结果

研究问题

• RQ1 一种结合节点特征与图结构的可微分图池化方法，能否提升图神经网络在分子表示学习中的性能？
• RQ2 LaPool基于图拉普拉斯的分层聚类方法，在预测性能与可解释性方面，相较于现有池化方法表现如何？
• RQ3 LaPool在多大程度上通过保留并突出有意义的分子子结构，增强了图神经网络的可解释性？
• RQ4 LaPool能否在生成模型中有效应用，以生成有效、唯一且新颖的分子？
• RQ5 LaPool是否能泛化至其他类型的稀疏、非规则图数据？

主要发现

• LaPool在QM9数据集上的分子生成任务中实现了98.8%的有效性，优于WAE-GNN（96.8%）和WAE-Diff（97.2%），表明其在图表示上的更强鲁棒性。
• 其生成分子的独特性达到65.5%，显著优于WAE-GNN（50.0%）和WAE-Diff（29.3%），表明多样性显著提升。
• LaPool在非分子基准任务上也保持了高性能，表明其在分子图之外具有良好的泛化能力。
• 该方法通过在粗化过程中保留连通性与特征结构，生成了更具可解释性的表示，从而实现更清晰的子结构识别。
• 所提出的分子图可解释性评估基准使GNN可解释性的系统评估成为可能，这是本工作的一项创新贡献。
• LaPool的池化机制在WAE框架中提升了重建质量，表现为排列不变损失的改善与更高的有效性。