[论文解读] Convolutional Networks on Graphs for Learning Molecular Fingerprints

David Duvenaud, Dougal Maclaurin+5 more|arXiv (Cornell University)|Sep 30, 2015

Computational Drug Discovery Methods参考文献 20被引用 905

一句话总结

该论文提出了一种可微分的、端到端可训练的卷积神经网络，直接在分子图上运行，以学习数据驱动的分子指纹。通过用可学习的图卷积特征替代固定的环状指纹，该方法在溶解度、药物疗效和光伏效率等任务中实现了更优的预测性能、更高的可解释性以及更低的模型复杂度。

ABSTRACT

We introduce a convolutional neural network that operates directly on graphs. These networks allow end-to-end learning of prediction pipelines whose inputs are graphs of arbitrary size and shape. The architecture we present generalizes standard molecular feature extraction methods based on circular fingerprints. We show that these data-driven features are more interpretable, and have better predictive performance on a variety of tasks.

研究动机与目标

• 解决固定大小、手工设计的分子指纹无法针对特定预测任务进行优化的局限性。
• 开发一种可微分的神经网络架构，直接在分子图（原子作为节点，化学键作为边）上运行，实现端到端学习。
• 通过学习任务特定的、数据驱动的指纹，而非依赖静态指纹方法，提升分子性质预测的性能。
• 通过使特征对结构相似的片段产生响应，提升可解释性，而传统指纹则将所有子结构视为独立实体。
• 通过仅学习相关且任务特定的特征，而非编码所有可能的子结构，降低计算和正则化负担。

提出的方法

• 该模型采用图卷积网络（GCN）架构，其中每一层对每个原子及其局部邻域应用可学习的、可微分的滤波器，并通过求和聚合特征，以保持排列不变性。
• 该网络用可微分的神经层（如使用tanh等非线性激活函数）替代了环状指纹（如ECFP）中的离散哈希步骤。
• 全局池化步骤使用softmax操作作为传统指纹中索引步骤的可微分类比，从图中生成固定长度的输出向量。
• 该架构通过反向传播进行端到端训练，使梯度能够通过图运算流动，从而优化特征提取过程。
• 该方法通过允许通过梯度下降调整特征提取过程，对标准环状指纹进行了泛化，使整个管道可端到端优化。
• 该模型通过使用排列不变的聚合方式（如求和）而非规范化，实现了可扩展性并保持了原子顺序不变性。

实验结果

研究问题

• RQ1 可微分的、可学习的指纹方法是否能在多种分子性质预测任务中超越固定的手工设计分子指纹？
• RQ2 可学习的图特征在在多大程度上能通过捕捉结构相关片段之间的相似性来提升可解释性？
• RQ3 神经指纹管道的端到端训练是否能减少对大型稀疏指纹向量的需求，从而提高计算效率？
• RQ4 当用作下游模型的输入时，所提出的神经图指纹与ECFP等最先进方法相比性能如何？
• RQ5 所学习的特征是否可被有意义地解释为代表化学上相关的亚结构，而非任意索引？

主要发现

• 所提出的神经图指纹在溶解度、药物疗效和有机光伏效率预测任务中，性能与标准ECFP指纹相当或更优。
• 通过仅学习相关且任务特定的特征，该模型减少了对极大指纹向量（如先前工作中43,000维）的需求，降低了下游计算和正则化成本。
• 所学习的特征更具可解释性，因为它们对相似但不完全相同的分子片段产生激活，反映了化学相似性。
• 该方法通过使特征提取过程可微分和可训练，对环状指纹进行了泛化，实现了整个管道的端到端优化。
• 该方法具有可扩展性，适用于大分子，通过使用基于求和的聚合而非根节点枚举，避免了基于树的图神经网络的$ ext{O}(F^2N^2) $复杂度。
• 该模型可被视为一种展开的消息传递算法，每一层类似于迭代推理过程中的一个步骤，从而支持基于梯度的训练。