[논문 리뷰] Spherical Message Passing for 3D Graph Networks

Yi Liu, Limei Wang외 4명|arXiv (Cornell University)|2021. 02. 09.

Advanced Graph Neural Networks참고 문헌 47인용 수 31

한 줄 요약

구면 메시지 전달(SMP)을 3D 분자 그래프에 도입하여 거리, 각도, 비틀림 정보를 효율적으로 활용하고 SphereNet을 통해 다수의 분자 벤치마크에서 최첨단 또는 경쟁력 있는 성능을 더 나은 효율성과 함께 달성한다.

ABSTRACT

We consider representation learning of 3D molecular graphs in which each atom is associated with a spatial position in 3D. This is an under-explored area of research, and a principled message passing framework is currently lacking. In this work, we conduct analyses in the spherical coordinate system (SCS) for the complete identification of 3D graph structures. Based on such observations, we propose the spherical message passing (SMP) as a novel and powerful scheme for 3D molecular learning. SMP dramatically reduces training complexity, enabling it to perform efficiently on large-scale molecules. In addition, SMP is capable of distinguishing almost all molecular structures, and the uncovered cases may not exist in practice. Based on meaningful physically-based representations of 3D information, we further propose the SphereNet for 3D molecular learning. Experimental results demonstrate that the use of meaningful 3D information in SphereNet leads to significant performance improvements in prediction tasks. Our results also demonstrate the advantages of SphereNet in terms of capability, efficiency, and scalability. Our code is publicly available as part of the DIG library (https://github.com/divelab/DIG).

연구 동기 및 목표

• 구면좌표에서 상대적인 3D 정보를 활용하여 3D 분자 구조의 완전한 식별을 동기 부여하고 형식화한다.
• 1-hop 기하정보로 효율적이고 확장 가능한 메시지 전달을 가능하게 하도록 SMP를 개발한다.
• 3D 기하를 물리적으로 의미 있는 표현으로 인코딩하기 위해 SphereNet을 도입하고 표준 분자 벤치마크에서 평가한다.
• 완전한 2-hop 스킴과 비교한 SMP의 완전성 대 효율성 트레이드오프를 평가한다.

제안 방법

• 구면 좌표계(SCS)에서 3D 분자 그래프를 정의하고 완전성이 거리, 각도 및 비틀림을 필요로 한다는 것을 보인다.
• 엣지, 노드 및 그래프 업데이트 함수(φ^e, φ^v, φ^u)가 3D 정보를 국소성에 기반한 ρ^{p→e} 및 ρ^{e→v} 집계를 통해 통합하는 SMP를 제안한다.
• 복잡도 O(nk^2)을 유지하기 위해 기준평면 구성으로 엣지 기반의 1-hop 정보를 사용해 비틀림 각을 계산한다.
• SMP가 대부분의 3D 구조를 구별하는 데 대략적으로 완전하며 물리적으로 의미 있는 기저 함수를 적용함으로써 SphereNet으로 전개된다고 주장한다.
• 이동 불변성 및 회전 불변성을 보장하기 위해 구면 베셀 함수와 구면 조화를 통해 SphereNet 표현 Ψ(d,θ,φ)를 정의하고 메시지 전달 블록에 통합한다.
• SMP를 이전 방법들(SchNet, DimeNet)과 SMP 프레임워크 내의 특수한 경우로 연결한다.

실험 결과

연구 질문

• RQ1 확장 가능한 GNN 프레임워크 내에서 거리, 각도, 비틀림의 완전한 상대 기하 특징 집합을 사용해 3D 분자 그래프를 효과적으로 식별할 수 있는가?
• RQ2 구면 메시지 전달이 표현력을 유지하면서 에지 기반의 2-hop 완전한 표현에 대해 원칙적이고 효율적인 대안을 제공하는가?
• RQ3 SphereNet 표현 Ψ(d,θ,φ)가 기존 기준선에 비해 표준 분자 벤치마크에서 예측 성능을 개선하는가?
• RQ4 대규모 분자 데이터셋에서 SMP/SphereNet가 정확도, 효율성, 확장성을 어떻게 균형 있게 달성하는가?

주요 결과

• SphereNet은 OC20 IS2RE에서 에너지 MAE 및 EwT 측면에서 분할 간 경쟁적이거나 최상위를 달성하며, 기준선 대비 평균 향상치를 보인다.
• QM9에서 SphereNet은 std. MAE에서 새로운 최첨단을 설정하며 다수의 성질에서 강한 결과를 달성한다.
• MD17 실험에서 SphereNet은 유사 WoFE 설정에서 종종 SchNet 및 DimeNet보다 힘 MAE에서 우수하고, 더 높은 WoFE 사용 시 GemNet-T에 근접한다.
• 어블레이션 및 효율성 분석은 SMP가 정확도에서 완전한 2-hop 표현과 일치하는 한편, 실행 시간을 상당히 단축시키며(일부 설정에서 전체 스킴의 약 4배 빠름).
• SphereNet은 학습 복잡도를 O(nk^2)로 줄이면서 3D 구조의 거의 완전한 구별성을 유지하여 대규모 분자 학습을 가능하게 한다.