[论文解读] MassFormer: Tandem Mass Spectrum Prediction for Small Molecules using Graph Transformers

Adamo Young, Bo Wang+1 more|arXiv (Cornell University)|Nov 8, 2021

Computational Drug Discovery Methods被引用 8

一句话总结

MassFormer 提出了一种图注意力变换器模型，通过自注意力机制利用分子的全局结构，实现对小分子串联质谱（MS/MS）谱图的高精度预测。该模型在化学数据上进行预训练，并在谱图数据上进行微调，在多个数据集上优于现有方法，能够恢复已知的碰撞能量效应，并在谱图识别任务中实现最先进性能，同时开源了代码。

ABSTRACT

Tandem mass spectra capture fragmentation patterns that provide key structural information about a molecule. Although mass spectrometry is applied in many areas, the vast majority of small molecules lack experimental reference spectra. For over seventy years, spectrum prediction has remained a key challenge in the field. Existing deep learning methods do not leverage global structure in the molecule, potentially resulting in difficulties when generalizing to new data. In this work we propose a new model, MassFormer, for accurately predicting tandem mass spectra. MassFormer uses a graph transformer architecture to model long-distance relationships between atoms in the molecule. The transformer module is initialized with parameters obtained through a chemical pre-training task, then fine-tuned on spectral data. MassFormer outperforms competing approaches for spectrum prediction on multiple datasets, and is able to recover prior knowledge about the effect of collision energy on the spectrum. By employing gradient-based attribution methods, we demonstrate that the model can identify relationships between fragment peaks. To further highlight MassFormer's utility, we show that it can match or exceed existing prediction-based methods on two spectrum identification tasks. We provide open-source implementations of our model and baseline approaches, with the goal of encouraging future research in this area.

研究动机与目标

• 为大多数小分子缺乏实验性 MS/MS 参考谱图这一关键挑战提供解决方案。
• 克服现有深度学习模型在分子结构中无法捕捉长程原子相互作用的局限性。
• 通过建模全局分子上下文，开发一种能良好泛化至未见化合物的谱图预测模型。
• 通过基准数据集在真实谱图识别任务中展示模型的实用性。

提出的方法

• MassFormer 采用图变换器架构，对分子图中所有原子之间的成对相互作用进行建模，以捕捉长程依赖关系。
• 变换器通过在分子数据上的化学预训练任务初始化参数，从而提升泛化能力。
• 通过在 MS/MS 数据上对预训练模型进行微调，利用分子节点表征上的多头注意力机制实现谱图预测。
• 模型使用可学习的谱图标记，关注碎片离子峰并预测 m/z 强度值。
• 应用基于梯度的归因方法以解释模型预测结果，并识别碎片离子峰之间的关系。
• 使用标准谱图识别排名指标，在 NIST、CASMI 2016 和 pCASMI 数据集上对模型进行评估。

实验结果

研究问题

• RQ1 图变换器架构能否有效建模小分子中的长程原子相互作用，从而提升 MS/MS 谱图预测性能？
• RQ2 在化学数据上进行预训练是否能增强模型在谱图预测中对未见化合物的泛化能力？
• RQ3 MassFormer 能否恢复已知的化学原理，例如碰撞能量对碎片化模式的影响？
• RQ4 在真实世界数据集上，MassFormer 与现有方法在谱图识别任务中的表现如何比较？
• RQ5 基于梯度的归因方法能否揭示模型预测的碎片离子之间的有意义关系？

主要发现

• MassFormer 在多个 MS/MS 谱图预测基准测试中优于竞争模型，包括 NIST、CASMI 2016 和 pCASMI 数据集。
• 该模型成功恢复了已知的化学趋势，例如碰撞能量增加对碎片离子强度分布的影响。
• MassFormer 在谱图识别任务中达到最先进性能，在 CASMI 2016 和 pCASMI 数据集上与现有基于预测的方法表现相当或更优。
• 梯度归因分析表明，模型能够将碎片峰与特定结构片段相关联，体现出可解释性与化学相关性。
• 在分子数据上进行预训练显著提升了性能，尤其在多样且具有挑战性的化合物上表现更优。
• 该模型在分子量范围上表现出鲁棒性，包括具有多个环结构的较大分子，而以往的组合方法在这些化合物上表现不佳。