[논문 리뷰] Directional Message Passing on Molecular Graphs via Synthetic Coordinates

Johannes Klicpera, Chandan Yeshwanth외 1명|arXiv (Cornell University)|2021. 11. 08.

Computational Drug Discovery Methods인용 수 5

한 줄 요약

이 논문은 분자의 그래프에서 유도된 거리 범위와 그래프 기반 거리와 같은 합성 좌표를 제안하여 실제 원자 좌표가 필요 없이 방향성 메시지 전파를 가능하게 한다. 이러한 합성 좌표를 사용해 표준 GNN을 방향성 MPNN로 변환함으로써, ZINC에서 오차를 55% 감소시키고 ZINC 및 좌표 무관 QM9 벤치마크에서 새로운 최고 성능 기록을 수립한다.

ABSTRACT

Graph neural networks that leverage coordinates via directional message passing have recently set the state of the art on multiple molecular property prediction tasks. However, they rely on atom position information that is often unavailable, and obtaining it is usually prohibitively expensive or even impossible. In this paper we propose synthetic coordinates that enable the use of advanced GNNs without requiring the true molecular configuration. We propose two distances as synthetic coordinates: Distance bounds that specify the rough range of molecular configurations, and graph-based distances using a symmetric variant of personalized PageRank. To leverage both distance and angular information we propose a method of transforming normal graph neural networks into directional MPNNs. We show that with this transformation we can reduce the error of a normal graph neural network by 55% on the ZINC benchmark. We furthermore set the state of the art on ZINC and coordinate-free QM9 by incorporating synthetic coordinates in the SMP and DimeNet++ models. Our implementation is available online.

연구 동기 및 목표

• 분자의 그래프에서 실제 원자 좌표가 비용이 많이 들거나 확보되지 않을 경우 방향성 메시지 전파 GNN의 한계를 해결하기 위해.
• 진정한 분자의 구조에 의존하지 않고도 분자 성질 예측에서 최고 성능을 내는 방법을 개발하기 위해.
• 공간 정보를 근사하는 데 사용되는 거리 범위와 대칭적 개인화된 PageRank 기반 그래프 거리로 구성된 합성 좌표를 제안하기 위해.
• SMP 및 DimeNet++와 같은 기존 GNN 아키텍처에 이러한 합성 좌표를 통합하여 벤치마크 데이터셋에서 성능을 향상시키기 위해.
• 합성 좌표가 ZINC 및 QM9에서 진짜 좌표를 사용하는 모델과 비교해 유사하거나 더 좋은 성능을 낼 수 있는지 입증하기 위해.

제안 방법

• 실제 분자의 구조가 가능한 범위를 추정하는 합성 좌표의 일종으로 거리 범위를 제안한다.
• 분자의 그래프 내 구조적 근접성을 캡처하기 위해 개인화된 PageRank의 대칭적 변형을 사용한 그래프 기반 거리를 도입한다.
• 합성 좌표를 사용해 표준 그래프 신경망을 방향성 메시지 전파 GNN으로 변환하는 변환 방법을 설계한다.
• 메시지 집계 과정에 방향성 및 각도 정보를 통합하여 메시지 전파를 향상시킨다.
• SMP 및 DimeNet++와 같은 기존 모델에 합성 좌표 프레임워크를 통합하여 예측 성능을 향상시킨다.
• 합성 좌표를 입력 특징으로 사용해 GNN의 엔드 투 엔드 훈련이 가능한 미분 가능 프레임워크를 활용한다.

실험 결과

연구 질문

• RQ1 합성 좌표가 분자 성질 예측을 위한 방향성 메시지 전파 GNN에서 실제 원자 좌표를 효과적으로 대체할 수 있는가?
• RQ2 거리 범위와 그래프 기반 거리는 분자의 그래프에서 공간 정보를 어느 정도 잘 근사하는가?
• RQ3 합성 좌표는 ZINC 및 QM9와 같은 표준 벤치마크 데이터셋에서 표준 GNN의 성능을 어느 정도 향상시킬 수 있는가?
• RQ4 SMP 및 DimeNet++와 같은 기존 모델에 합성 좌표를 통합하면 진짜 좌표 없이도 최고 성능 기록을 달성할 수 있는가?
• RQ5 합성 좌표에서 유도된 성능 향상은 다양한 분자 성질 예측 작업에 걸쳐 견고한가?

주요 결과

• 합성 좌표를 사용함으로써 표준 그래프 신경망의 오차가 ZINC 벤치마크에서 55% 감소한다.
• SMP 및 DimeNet++ 모델에 합성 좌표를 통합함으로써 ZINC 데이터셋에서 새로운 최고 성능 기록을 수립한다.
• 좌표 무관 QM9 벤치마크에서 합성 좌표를 사용함으로써 최고 성능을 달성한다.
• 합성 좌표의 사용은 진짜 분자 구조가 확보되지 않은 경우에도 GNN에서 방향성 메시지 전파를 가능하게 한다.
• 대칭적 개인화된 PageRank 기반 거리 측정법은 분자의 그래프 내 구조적 관계를 효과적으로 캡처하여 모델 성능 향상에 기여한다.