[论文解读] Deep Molecular Representation Learning via Fusing Physical and Chemical Information

Shuwen Yang, Ziyao Li+2 more|arXiv (Cornell University)|Nov 28, 2021

Machine Learning in Materials Science被引用 9

一句话总结

该论文提出 PhysChem，一种新颖的深度学习架构，通过结合物理学家网络（PhysNet）模拟分子动力学以学习构象，以及化学家网络（ChemNet）利用几何感知消息传递预测化学性质，实现对分子表征学习的物理与化学信息融合。该模型通过一种协作机制共享结构和受力信息，联合训练两个网络，在 MoleculeNet 和 SARS-CoV-2 数据集上实现了最先进性能，实现了无需推理时使用标注构象的精确表征学习。

ABSTRACT

Molecular representation learning is the first yet vital step in combining deep learning and molecular science. To push the boundaries of molecular representation learning, we present PhysChem, a novel neural architecture that learns molecular representations via fusing physical and chemical information of molecules. PhysChem is composed of a physicist network (PhysNet) and a chemist network (ChemNet). PhysNet is a neural physical engine that learns molecular conformations through simulating molecular dynamics with parameterized forces; ChemNet implements geometry-aware deep message-passing to learn chemical / biomedical properties of molecules. Two networks specialize in their own tasks and cooperate by providing expertise to each other. By fusing physical and chemical information, PhysChem achieved state-of-the-art performances on MoleculeNet, a standard molecular machine learning benchmark. The effectiveness of PhysChem was further corroborated on cutting-edge datasets of SARS-CoV-2.

研究动机与目标

• 为解决现有分子表征方法忽视物理与化学本质的问题，提出将两者整合到统一的深度学习框架中。
• 开发一种神经架构，通过专用但协作的网络联合学习分子构象与化学性质。
• 通过训练 PhysNet 从零开始生成构象，消除推理过程中对标注 3D 构象的依赖。
• 通过引入领域特定的物理与化学归纳偏置，提升分子表征学习的泛化性与可解释性。
• 在标准基准（包括 MoleculeNet 和新兴的 SARS-CoV-2 数据集）上展示卓越性能。

提出的方法

• PhysChem 由两个专业网络组成：PhysNet 是一种神经物理引擎，利用学习到的参数化力模拟分子动力学，以预测稳定的分子构象。
• ChemNet 采用几何感知消息传递框架，基于局部分子几何结构与化学环境学习原子与键的状态。
• 两个网络通过知识共享实现协作：PhysNet 使用 ChemNet 的键表示计算二面角力，而 ChemNet 则利用 PhysNet 的中间构象来指导其消息传递更新。
• 模型通过端到端训练，采用多任务损失函数，结合空间不变构象损失（用于 PhysNet）与性质预测损失（用于 ChemNet），损失权重由超参数 λ 控制。
• PhysNet 从输入特征初始化隐式原子位置与动量，利用经典力学演化系统，最终构象通过笛卡尔坐标上的 L2 损失进行监督。
• ChemNet 从聚合的原子状态输出分子表征，其监督信号来自标注的化学与生物医学性质，如溶解度与毒性。

实验结果

研究问题

• RQ1 是否可通过显式建模物理动力学与化学相互作用的双网络架构，联合提升分子表征学习性能？
• RQ2 基于物理启发的网络与化学感知网络之间的协作，是否优于标准多任务学习或独立模型？
• RQ3 模型在推理阶段完全不依赖标注 3D 结构的情况下，能在多大程度上学习到准确的分子构象？
• RQ4 在 SARS-CoV-2 药物靶点预测等复杂结构依赖性任务中，引入物理与化学归纳偏置对性能有何影响？
• RQ5 在联合训练设置中，构象学习与性质预测之间最优的权衡是什么？

主要发现

• PhysChem 在 MoleculeNet 所有回归任务中均达到最先进性能，包括 QM9，在 Lipophilicity 数据集上 RMSE 为 0.568 ± 0.014，优于 AttentiveFP 和 CMPNN 等先前方法。
• 在 FreeSolv 数据集上，PhysChem 的 RMSE 为 0.692 ± 0.112，显著优于 ChemNet（rdkit conf.）的 0.663 ± 0.029，表明其在稀疏物理化学数据上具有更强泛化能力。
• 在 SARS-CoV-2 数据集上，PhysChem 的 Multi-AUC 达到 0.792 ± 0.013，为所有评估模型中的最高值，表明其在复杂结构依赖性任务中表现优异。
• 消融研究显示，PhysChem 中的协作机制至关重要，而简单的多任务策略（ChemNet s.a.）导致负迁移，而 PhysChem 的设计有效避免了该问题。
• 可视化结果表明，与基线模型相比，PhysChem 更好地保留了局部结构特征，如键长、键角与芳香平面性。
• 超参数分析表明，λ ≤ 0.1 最优平衡了构象与性质学习，而更高的 λ 会降低性质预测性能。