[论文解读] Efficient, Interpretable Graph Neural Network Representation for Angle-dependent Properties and its Application to Optical Spectroscopy

Tim Hsu, Tuan Anh Pham+7 more|arXiv (Cornell University)|Sep 23, 2021

Computational Drug Discovery Methods被引用 5

一句话总结

本文提出 ALIGNN-d，一种高效且可解释的图神经网络，通过在图表示中引入二面角，扩展了 ALIGNN 框架，显著提升了对角度依赖性光学性质的建模能力。在 Cu(II) 水合配合物中的应用表明，ALIGNN-d 在预测红外吸收光谱方面具有高精度，同时能够清晰解释键和二面角的贡献，揭示几何畸变通过角度变化显著影响光谱强度。

ABSTRACT

Graph neural networks are attractive for learning properties of atomic structures thanks to their intuitive graph encoding of atoms and bonds. However, conventional encoding does not include angular information, which is critical for describing atomic arrangements in disordered systems. In this work, we extend the recently proposed ALIGNN encoding, which incorporates bond angles, to also include dihedral angles (ALIGNN-d). This simple extension leads to a memory-efficient graph representation that captures the complete geometry of atomic structures. ALIGNN-d is applied to predict the infrared optical response of dynamically disordered Cu(II) aqua complexes, leveraging the intrinsic interpretability to elucidate the relative contributions of individual structural components. Bond and dihedral angles are found to be critical contributors to the fine structure of the absorption response, with distortions representing transitions between more common geometries exhibiting the strongest absorption intensity. Future directions for further development of ALIGNN-d are discussed.

研究动机与目标

• 为解决传统图神经网络在捕捉无序原子体系中对光谱性质至关重要的角度信息方面的局限性。
• 扩展 ALIGNN 框架以包含二面角，从而实现对局部原子环境更完整的几何表征。
• 通过显式地将键和二面角编码为图组件，提升模型可解释性，实现对结构贡献到预测光学响应的直接归因。
• 在动态无序的 Cu(II) 水合配合物上验证该方法，其中局部几何结构强烈影响红外吸收光谱。
• 证明在不增加内存成本的前提下，引入二面角可提升预测精度和可解释性，相较于全连接图表示。

提出的方法

• 通过引入编码键角（通过红色边）和二面角（通过蓝色边）的线图，扩展 ALIGNN 图神经网络，形成分层图表示。
• 使用边缘门控卷积在网络中的原子、键和角度节点之间传播特征，实现原子、键和角度特征之间的消息传递。
• 采用双流架构：一个用于原子图，一个用于线图，共享权重和共享超参数（例如，6 层，64 通道，RBF 截断值分别为 6.0 Å 和 2.0）。
• 使用多头输出层，对节点特征进行池化，并回归到三维高斯参数向量（μ, σ, A）以实现光谱拟合。
• 为实现可解释性，将最终输出层替换为经 softplus 激活的线性层，以生成原子、键和角度的非负标量贡献，从而实现对光谱特征的直接归因。
• 使用 Adam 优化器，配合 1cycle 学习率调度，在 V100 GPU 上训练，共 1000 个周期，批量大小为 128，损失函数为均方误差。

实验结果

研究问题

• RQ1 将二面角引入图表示后，对图神经网络预测角度依赖性光学性质的准确性有何影响？
• RQ2 ALIGNN-d 中增强的图编码是否能通过实现对特定结构组分的光谱特征直接归因，从而提升模型可解释性？
• RQ3 在保持相似预测性能的前提下，ALIGNN-d 的内存效率与最大连接图表示相比如何？
• RQ4 在无序的 Cu(II) 水合配合物中，键角和二面角在红外吸收光谱的精细结构和强度方面分别贡献了多少？
• RQ5 与无角度编码的基线图神经网络相比，包含二面角是否能提升训练的稳定性和收敛性？

主要发现

• ALIGNN-d 在预测精度上与最大连接图相当，但内存效率显著提升，适用于大规模材料筛选。
• 使用线图（ALIGNN 或 ALIGNN-d）时，训练损失收敛更快且更稳定，相较于无角度编码的标准图神经网络。
• 二面角对于捕捉红外吸收光谱的精细结构至关重要，不同常见几何构型之间的畸变表现出最强的吸收强度。
• 键角对光谱精细结构有显著贡献，而二面角在分辨无序体系中不同局部几何构型之间的跃迁中起着决定性作用。
• ALIGNN-d 的可解释变体成功分离并量化了单个原子、键和角度对最终光学响应的贡献，实现了对模型预测的物理解释。
• 模型在八组不同的随机权重初始化下表现稳定，证实了其统计可靠性与泛化能力。