[论文解读] HamNet: Conformation-Guided Molecular Representation with Hamiltonian Neural Networks

Ziyao Li, Shu-Wen Yang+2 more|arXiv (Cornell University)|May 8, 2021

Machine Learning in Materials Science参考文献 27被引用 6

一句话总结

HamNet 提出了一种受物理启发的分子表征方法，采用可微分的哈密顿神经网络，从二维结构预测三维分子构象，利用可学习的能量函数和耗散函数。通过将构象预测与消息传递指纹生成器结合，该方法在 MoleculeNet 基准测试中实现了最先进性能。

ABSTRACT

Well-designed molecular representations (fingerprints) are vital to combine medical chemistry and deep learning. Whereas incorporating 3D geometry of molecules (i.e. conformations) in their representations seems beneficial, current 3D algorithms are still in infancy. In this paper, we propose a novel molecular representation algorithm which preserves 3D conformations of molecules with a Molecular Hamiltonian Network (HamNet). In HamNet, implicit positions and momentums of atoms in a molecule interact in the Hamiltonian Engine following the discretized Hamiltonian equations. These implicit coordinations are supervised with real conformations with translation- & rotation-invariant losses, and further used as inputs to the Fingerprint Generator, a message-passing neural network. Experiments show that the Hamiltonian Engine can well preserve molecular conformations, and that the fingerprints generated by HamNet achieve state-of-the-art performances on MoleculeNet, a standard molecular machine learning benchmark.

研究动机与目标

• 开发一种可微分的、基于物理原理的方法，用于从二维分子图学习三维分子构象。
• 克服现有三维分子指纹方法的局限性，包括计算成本高以及缺乏平移/旋转不变性。
• 通过将物理定律（哈密顿动力学）整合到深度学习架构中，改进分子表征学习。
• 在分子性质预测任务中，相比二维和三维基线方法，实现更优性能。
• 通过使用不变性监督损失函数，实现构象与指纹的端到端联合训练。

提出的方法

• 哈密顿引擎将原子位置和动量作为隐变量建模，通过带有可学习能量函数和耗散函数的离散化哈密顿方程演化。
• 采用新型损失函数进行训练，以强制实现平移和旋转不变性，确保对坐标系变化的鲁棒性。
• 真实分子构象被用作哈密顿引擎最终预测位置的监督目标。
• 预测的三维坐标被输入到改进的消息传递神经网络（MPNN）中，以生成最终的分子指纹。
• 该架构通过重新设计的MPNN整合原子特征与学习到的构象，以保留几何信息。
• 整个框架具备端到端可微性，支持构象预测与指纹生成的联合优化。

实验结果

研究问题

• RQ1 可微分的、基于物理的神经网络能否有效从二维分子结构预测分子构象？
• RQ2 与标准MPNN或二维指纹相比，引入哈密顿动力学在分子表征学习方面有何改进？
• RQ3 平移与旋转不变损失在多大程度上提升了构象预测的泛化能力与鲁棒性？
• RQ4 基于哈密顿的方法能否在标准基准上超越现有的三维与二维分子指纹方法？
• RQ5 学习率步长、深度和潜在维度等超参数如何影响哈密顿引擎的性能与效率？

主要发现

• 哈密顿引擎在构象预测任务中达到最先进性能，优于传统的几何方法与神经网络基线。
• 在 MoleculeNet 上，HamNet 的 Multi-MAE 达到 1.194 ± 0.038，优于此前最先进方法 Attentive FP（1.292）和 3DGCN（–）。
• 在 ESOL 数据集上，HamNet 的 RMSE 为 0.731 ± 0.024，优于 Attentive FP（0.736）和 3DGCN（0.824 ± 0.014）。
• 模型对超参数选择具有鲁棒性，最优性能在步长 η ∈ [0.025, 0.050] 且深度 T ≈ 25–30 时实现。
• 将潜在维度（df）提升至 32 显著改善性能，而运行时间基本保持不变。
• 使用不变性损失函数可实现有效训练，且无需对真实构象在空间中进行对齐。