[论文解读] GraphNVP: an Invertible Flow-based Model for Generating Molecular Graphs

Kaushalya Madhawa, Katsuhiko Ishiguro+2 more|arXiv (Cornell University)|Sep 25, 2019

Machine Learning in Materials Science参考文献 25被引用 47

一句话总结

GraphNVP 是首个基于可逆归一化流的分子图生成模型，通过将图生成分解为邻接张量和节点属性生成两步实现。它实现了精确似然估计，并能高效、多样化地生成有效分子，其解耦的潜在空间有利于性质导向的分子生成。

ABSTRACT

We propose GraphNVP, the first invertible, normalizing flow-based molecular graph generation model. We decompose the generation of a graph into two steps: generation of (i) an adjacency tensor and (ii) node attributes. This decomposition yields the exact likelihood maximization on graph-structured data, combined with two novel reversible flows. We empirically demonstrate that our model efficiently generates valid molecular graphs with almost no duplicated molecules. In addition, we observe that the learned latent space can be used to generate molecules with desired chemical properties.

研究动机与目标

• 开发一种基于归一化流的分子图生成模型，以实现精确似然估计。
• 将图生成分解为两个可逆步骤：邻接张量生成与节点属性生成。
• 实现高效、多样化且无重复的有效分子图生成。
• 学习一个解耦的潜在空间，以支持分子的性质导向生成。

提出的方法

• 该模型采用一种新颖的图生成分解方法，将邻接张量与节点属性的生成分别通过两个可逆流实现。
• 在归一化流框架中应用耦合层，以确保可逆性并实现精确似然计算。
• 邻接张量流通过对邻接矩阵上三角部分进行可逆变换来建模图的拓扑结构。
• 节点属性生成通过在节点特征上独立应用可逆流来建模，同时保持可逆性。
• 基于归一化流理论，最大化分子图的精确对数似然。
• 整个过程可微且端到端可训练，支持基于梯度的优化。

实验结果

研究问题

• RQ1 可逆归一化流能否在分子图生成中有效应用并实现精确似然估计？
• RQ2 将图生成分解为邻接张量与节点属性流是否能提升生成质量和多样性？
• RQ3 GraphNVP 学习到的潜在空间是否可用于生成具有期望化学性质的分子？
• RQ4 与现有生成模型相比，GraphNVP 在有效性和重复率方面表现如何？

主要发现

• GraphNVP 生成的分子图几乎无重复，表明其生成分布具有高度多样性。
• 该模型在图结构数据上实现了精确似然最大化，相较于自回归或变分模型具有关键优势。
• 学习到的潜在空间支持有效的性质导向生成，可实现对期望化学性质的控制。
• 该模型能高效生成有效分子图，无需后处理或拒绝采样。