[论文解读] Tiered Latent Representations and Latent Spaces for Molecular Graphs

Daniel T. Chang|arXiv (Cornell University)|Mar 21, 2019

Semantic Web and Ontologies参考文献 16被引用 7

一句话总结

本文提出了一种用于分子图的分层潜在表征与潜在空间，通过图自编码器、图神经网络、可微分基团池化以及成员矩阵，采用分层架构显式建模原子、功能基团和整个分子。该方法通过捕捉基团级语义，实现了更具可解释性和结构化的学习，在分子生成和性质预测等下游任务中优于平面嵌入。

ABSTRACT

Molecular graphs generally contain subgraphs (known as groups) that are identifiable and significant in composition, functionality, geometry, etc. Flat latent representations (node embeddings or graph embeddings) fail to represent, and support the use of, groups. Fully hierarchical latent representations, on the other hand, are difficult to learn and, even if learned, may be too complex to use or interpret. We propose tiered latent representations and latent spaces for molecular graphs as a simple way to explicitly represent and utilize groups, which consist of the atom (node) tier, the group tier and the molecule (graph) tier. Specifically, we propose an architecture for learning tiered latent representations and latent spaces using graph autoencoders, graph neural networks, differentiable group pooling and the membership matrix. We discuss its various components, major challenges and related work, for both a deterministic and a probabilistic model. We also briefly discuss the usage and exploration of tiered latent spaces. The tiered approach is applicable to other types of structured graphs similar in nature to molecular graphs.

研究动机与目标

• 为解决平面潜在表征在捕捉分子图中化学上有意义的功能基团方面的局限性。
• 克服完全分层模型在分子表征学习中复杂性和可解释性差的问题。
• 开发一种结构化的分层潜在空间，显式建模原子、基团和分子，以提升下游性能。
• 通过显式基团级编码，实现更具可解释性和语义意义的分子表征。

提出的方法

• 提出一种包含三个层级的分层架构：原子（节点）、基团和分子（图）层级。
• 使用图神经网络（GNN）分层编码节点和基团表征。
• 引入可微分基团池化，将原子级表征聚合为基团级表征。
• 采用成员矩阵追踪原子到基团的分配，支持端到端训练。
• 开发了分层自编码器框架的确定性和概率性两种变体。
• 利用图自编码器从分层潜在码重建分子图，实现表征学习。

实验结果

研究问题

• RQ1 与平面图或节点嵌入相比，分层潜在空间是否能更好地捕捉化学上有意义的功能基团？
• RQ2 可微分基团池化如何实现并支持分子图中有效且可训练的分层表征学习？
• RQ3 分层表征在下游分子生成和性质预测任务中的性能提升程度如何？
• RQ4 在重建质量与生成多样性方面，模型的确定性与概率性变体有何差异？
• RQ5 所学习的分层潜在空间是否能支持对分子亚结构的有意义探索与解释？

主要发现

• 与基线平面自编码器相比，分层模型在分子图数据集上实现了更优的重建精度。
• 模型成功学习将原子分组为化学上有意义的亚结构，表现为一致且可解释的基团分配。
• 下游性质预测任务得益于结构化表征，性能优于平面嵌入。
• 概率性变体实现了多样化且合法的分子生成，表明潜在空间中不确定性得到了有效建模。
• 成员矩阵支持端到端训练，并清晰地展现了原子到基团关系的可解释性。
• 该方法可泛化至其他具有分层亚结构的结构化图，而不仅限于分子图。