[논문 리뷰] MassFormer: Tandem Mass Spectrum Prediction for Small Molecules using Graph Transformers

Adamo Young, Bo Wang외 1명|arXiv (Cornell University)|2021. 11. 08.

Computational Drug Discovery Methods인용 수 8

한 줄 요약

MassFormer는 소분자에서 정확한 터널링 질량 분석 스펙트럼 예측을 위해 자기주의 메커니즘을 통해 전역적인 분자 구조를 활용하는 그래프 트랜스포머 모델을 제안한다. 화학 데이터로 사전 훈련하고 스펙트럼 데이터로 미세 조정한 결과, 여러 데이터셋에서 기존 방법들을 능가하며 알려진 충돌 에너지 효과를 복원하고, 오픈소스 코드 배포와 함께 스펙트럼 식별 작업에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Tandem mass spectra capture fragmentation patterns that provide key structural information about a molecule. Although mass spectrometry is applied in many areas, the vast majority of small molecules lack experimental reference spectra. For over seventy years, spectrum prediction has remained a key challenge in the field. Existing deep learning methods do not leverage global structure in the molecule, potentially resulting in difficulties when generalizing to new data. In this work we propose a new model, MassFormer, for accurately predicting tandem mass spectra. MassFormer uses a graph transformer architecture to model long-distance relationships between atoms in the molecule. The transformer module is initialized with parameters obtained through a chemical pre-training task, then fine-tuned on spectral data. MassFormer outperforms competing approaches for spectrum prediction on multiple datasets, and is able to recover prior knowledge about the effect of collision energy on the spectrum. By employing gradient-based attribution methods, we demonstrate that the model can identify relationships between fragment peaks. To further highlight MassFormer's utility, we show that it can match or exceed existing prediction-based methods on two spectrum identification tasks. We provide open-source implementations of our model and baseline approaches, with the goal of encouraging future research in this area.

연구 동기 및 목표

• 대부분의 소분자에 대해 실험적 MS/MS 기준 스펙트럼이 부족한 문제를 해결하기 위해.
• 기존 딥 러닝 모델이 분자 구조 내 장거리 원자 상호작용을 포착하지 못하는 한계를 극복하기 위해.
• 전체 분자 맥락을 모델링하여 예측 성능이 뛰어난 새로운 화합물에 일반화할 수 있는 스펙트럼 예측 모델을 개발하기 위해.
• 기준 데이터셋을 사용하여 실제 스펙트럼 식별 작업에서 모델의 유용성을 입증하기 위해.

제안 방법

• MassFormer는 분자 그래프의 모든 원자 간 상호작용을 모델링하기 위해 그래프 트랜스포머 아키텍처를 사용하여 장거리 의존성을 포착한다.
• 화합물 데이터에서의 화학 사전 훈련 작업으로부터 초기화된 파라미터를 사용함으로써 더 나은 일반화 능력을 확보한다.
• 스펙트럼 예측은 MS/MS 데이터에 대해 분자 노드 표현에 대한 다중 헤드 어텐션 메커니즘을 사용하여 사전 훈련된 모델을 미세 조정함으로써 수행된다.
• 학습 가능한 스펙트럼 토큰을 사용하여 분열 피크를 주시하고 m/z 강도 값을 예측한다.
• 기울기 기반 할당 방법을 적용하여 모델 예측을 해석하고 분열 피크 간의 관계를 식별한다.
• 스펙트럼 식별을 위한 표준 순위 평가 지표를 사용하여 NIST, CASMI 2016, pCASMI 데이터셋에서 모델을 평가한다.

실험 결과

연구 질문

• RQ1 그래프 트랜스포머 아키텍처가 소분자의 장거리 원자 상호작용을 효과적으로 모델링하여 MS/MS 스펙트럼 예측 성능을 향상시킬 수 있는가?
• RQ2 화학 데이터로 사전 훈련하면 스펙트럼 예측에서 예측할 수 없는 화합물로의 일반화 능력이 향상되는가?
• RQ3 MassFormer는 충돌 에너지가 분해 패턴에 미치는 영향과 같은 알려진 화학 원리를 복원할 수 있는가?
• RQ4 실제 세계 데이터셋을 사용한 스펙트럼 식별 작업에서 MassFormer는 기존 방법들과 비교해 어떤가?
• RQ5 기울기 할당 방법을 통해 모델이 예측한 분열 이온 간의 의미 있는 관계를 드러낼 수 있는가?

주요 결과

• MassFormer는 NIST, CASMI 2016, pCASMI 데이터셋을 포함한 여러 MS/MS 스펙트럼 예측 벤치마크에서 경쟁 모델들을 능가한다.
• 모델은 충돌 에너지 증가가 분열 이온 강도 분포에 미치는 영향과 같은 알려진 화학적 경향을 성공적으로 복원한다.
• MassFormer는 CASMI 2016 및 pCASMI 데이터셋에서 모두 기존의 예측 기반 방법들과 비교해 최신 기술 수준의 성능을 달성한다.
• 기울기 할당 분석을 통해 모델이 특정 구조적 조각과 분열 피크를 연결하는 것을 학습하고 있음을 확인하여 해석 가능성과 화학적 관련성을 입증한다.
• 분자 데이터로의 사전 훈련이 성능 향상에 크게 기여하며, 특히 다양하고 도전적인 화합물에서 두드러진다.
• 모델은 다수의 고리가 있는 더 큰 화합물 포함한 분자량 전반에서 뛰어난 안정성을 보이며, 이는 이전의 조합 기반 방법이 어려움을 겪는 영역이다.