[论文解读] Characterizing the Latent Space of Molecular Deep Generative Models with Persistent Homology Metrics

Yair Schiff, Vijil Chenthamarakshan+2 more|arXiv (Cornell University)|Oct 18, 2020

Cell Image Analysis Techniques被引用 5

一句话总结

本文提出了一种新颖的评估框架，利用持久同调度量来评估在SMILES字符串上训练的VAE的潜在空间对分子三维拓扑结构的编码效果。结果表明，三维拓扑信息在潜在空间中被一致且均匀地编码，其在捕捉训练分布之外的结构特征方面优于传统的指纹基度量方法。

ABSTRACT

Deep generative models are increasingly becoming integral parts of the in silico molecule design pipeline and have dual goals of learning the chemical and structural features that render candidate molecules viable while also being flexible enough to generate novel designs. Specifically, Variational Auto Encoders (VAEs) are generative models in which encoder-decoder network pairs are trained to reconstruct training data distributions in such a way that the latent space of the encoder network is smooth. Therefore, novel candidates can be found by sampling from this latent space. However, the scope of architectures and hyperparameters is vast and choosing the best combination for in silico discovery has important implications for downstream success. Therefore, it is important to develop a principled methodology for distinguishing how well a given generative model is able to learn salient molecular features. In this work, we propose a method for measuring how well the latent space of deep generative models is able to encode structural and chemical features of molecular datasets by correlating latent space metrics with metrics from the field of topological data analysis (TDA). We apply our evaluation methodology to a VAE trained on SMILES strings and show that 3D topology information is consistently encoded throughout the latent space of the model.

研究动机与目标

• 开发一种系统化的方法，以评估深度生成模型在其潜在空间中编码分子结构与化学特征的能力。
• 评估在1D SMILES字符串上训练的VAE是否能够隐式学习并保留分子的三维拓扑信息。
• 比较使用持久同调度量与传统指纹基度量在潜在空间中信息编码的一致性。
• 为基于模型保留训练数据分布之外拓扑特征能力的生成模型评估提供基准。

提出的方法

• 作者从三维原子坐标及辅助参数（部分电荷、原子半径）计算双参数持久同调，使用RIVET工具生成持久图。
• 为每种分子计算受限希尔伯特函数，并使用这些函数之间的ℓ₂距离作为拓扑距离度量。
• 在VAE潜在分布中采样4,500个有效SMILES解码向量，计算其潜在空间距离（z距离）。
• 计算z距离与Tanimoto距离（指纹基度量）以及受限希尔伯特函数上的ℓ₂距离（TDA基度量）之间的相关性。
• 在100次随机抽取中，每组距离区间包含400对样本，重复分析并聚合结果以评估鲁棒性与一致性。
• 该方法同时评估训练数据点与随机采样的潜在向量，以评估其在训练分布之外的泛化能力。

实验结果

研究问题

• RQ1 在SMILES字符串上训练的VAE的潜在空间在多大程度上编码了三维分子拓扑结构？
• RQ2 在潜在空间中，z距离与拓扑度量的相关性相较于指纹基度量如何？
• RQ3 在潜在空间的不同区域（包括远离训练分布的区域）中，三维拓扑特征的编码是否具有一致性？
• RQ4 辅助参数的选择（部分电荷与原子半径）是否影响潜在空间中拓扑编码的一致性？

主要发现

• z距离与Tanimoto指纹距离的相关性在训练数据中较强（中位数0.635），但在随机采样的潜在向量中显著下降（中位数0.377），表明子结构信息的泛化能力较差。
• 相比之下，z距离与受限希尔伯特函数上ℓ₂距离的相关性在训练数据和随机样本中均保持较高水平（部分电荷为中位数0.503，原子半径为中位数0.507），表明三维拓扑结构被一致编码。
• 在不同辅助参数（部分电荷与原子半径）下，与TDA基度量的相关性保持一致，证实了潜在空间中三维拓扑编码的鲁棒性。
• 结果表明，与子结构信息相比，三维拓扑结构在潜在空间中以更均匀、更可靠的方式被编码，尤其在远离训练数据的潜在空间区域表现更优。
• 该方法成功表明，持久同调度量在潜在空间评估中比指纹基度量更可靠、更一致地作为三维分子拓扑结构的代理指标。