[论文解读] GraphNVP: An Invertible Flow Model for Generating Molecular Graphs

Kaushalya Madhawa, Katushiko Ishiguro+2 more|arXiv (Cornell University)|May 28, 2019

Machine Learning in Materials Science被引用 86

一句话总结

GraphNVP 引入一个可逆的归一化流模型，分两步生成分子图（邻接张量和节点属性），具有精确似然训练且生成分子具有很高的唯一性。潜在空间可用于优化化学性质。

ABSTRACT

We propose GraphNVP, the first invertible, normalizing flow-based molecular graph generation model. We decompose the generation of a graph into two steps: generation of (i) an adjacency tensor and (ii) node attributes. This decomposition yields the exact likelihood maximization on graph-structured data, combined with two novel reversible flows. We empirically demonstrate that our model efficiently generates valid molecular graphs with almost no duplicated molecules. In addition, we observe that the learned latent space can be used to generate molecules with desired chemical properties.

研究动机与目标

• 推动药物发现中有效的分子图高效生成。
• 提出一种可逆流框架，用于对图结构数据建模，具有两种潜在表示（邻接张量和节点属性）。
• 实现对图的精确似然最大化，并实现面向属性的分子生成。

提出的方法

• 将图生成分解为两步：先生成邻接张量，然后生成节点属性。
• 使用两种可逆仿射耦合层（邻接耦合和节点特征耦合）将 A' 与 X' 转换为潜在表示 z_A 和 z_X。
• 在流变换前通过向离散图分量添加均匀噪声实现去量化。
• 通过最大化由可逆变换组成的正态化流下的精确对数似然来训练模型。
• 在生成过程中，采样潜在向量 z，应用逆耦合步骤以获得一个概率邻接张量，推导出离散邻接，再在邻接条件下生成节点特征。

实验结果

研究问题

• RQ1 在没有领域特定有效性支撑的情况下，可逆流模型是否能生成具有高唯一性的有效分子图？
• RQ2 两步生成（先邻接再节点属性）是否可以提升分子图的有效性和重构性能？
• RQ3 学习到的潜在空间是否适合用于面向属性的分子优化？
• RQ4 在标准分子图基准（QM9、ZINC-250k）上，GraphNVP 相较于 VAE 和 GAN 在有效性、新颖性、唯一性和重构方面的表现如何？

主要发现

• GraphNVP 在有效性和重构方面表现出色，且生成分子极高的唯一性，重复量极少。
• 由于可逆设计，模型 guarantees 重构准确性（R = 100%）。
• 通过简单的线性或贝叶斯方法对潜在空间进行操控，可以将生成引导到期望的化学性质（如 QED）。
• 对训练分子周围的潜在空间插值在生成结构中产生平滑过渡，便于局部分子优化。
• 两步生成（结构先于属性）支持高效且有效的分子图生成。