[논문 리뷰] Learning Hierarchical Protein Representations via Complete 3D Graph Networks

Limei Wang, Haoran Liu외 3명|arXiv (Cornell University)|2022. 07. 26.

Protein Structure and Dynamics인용 수 16

한 줄 요약

이 논문은 아미노산, 프로테인 프레임워크, 전체 원자 수준에서 단백질 표현을 다중 수준으로 학습할 수 있도록 하는 계층적 3D 그래프 신경망 ProNet을 제안한다. 각 아미노산을 노드로 간주하면서 내재된 구조적 계층성을 포착함으로써, 기존 방법에 비해 더 높은 효율성과 완전성을 확보한다. ProNet은 단백질 기능 및 접힘 예측, 결합 친화도, 단백질-단백질 상호작용과 같은 다양한 하류 작업에서 최신 기술(SOTA) 성능을 달성한다.

ABSTRACT

We consider representation learning for proteins with 3D structures. We build 3D graphs based on protein structures and develop graph networks to learn their representations. Depending on the levels of details that we wish to capture, protein representations can be computed at different levels, \emph{e.g.}, the amino acid, backbone, or all-atom levels. Importantly, there exist hierarchical relations among different levels. In this work, we propose to develop a novel hierarchical graph network, known as ProNet, to capture the relations. Our ProNet is very flexible and can be used to compute protein representations at different levels of granularity. By treating each amino acid as a node in graph modeling as well as harnessing the inherent hierarchies, our ProNet is more effective and efficient than existing methods. We also show that, given a base 3D graph network that is complete, our ProNet representations are also complete at all levels. Experimental results show that ProNet outperforms recent methods on most datasets. In addition, results indicate that different downstream tasks may require representations at different levels. Our code is publicly available as part of the DIG library (\url{https://github.com/divelab/DIG}).

연구 동기 및 목표

• 3D 구조에서 효과적이고 계층적인 단백질 표현을 학습하면서도 계산 효율성을 유지하는 문제를 해결하기 위해.
• 기존 방법들이 단백질 계층성을 忽시하거나 원자 수준 모델링으로 인해 높은 계산 복잡도를 겪는 한계를 극복하기 위해.
• 모든 해상도 수준에서 구조적 완전성을 유지하는 유연한 다중 수준 표현 학습 프레임워크를 개발하기 위해.
• 다양한 하류 작업이 서로 다른 구조적 세부 수준의 표현에서 각각 유의미한 이점을 얻을 수 있음을 입증하기 위해.

제안 방법

• ProNet은 아미노산 수준, 프레임워크 수준, 전체 원자 수준의 구조적 세부 수준에 관계없이 각 아미노산을 단일 노드로 간주하는 3D 그래프를 구축한다.
• 모델은 계층 간 메시지 전달 메커니즘을 활용하여 수준 간 정보를 전파하며, 단백질 구조의 자연스러운 계층성을 유지한다.
• 기본으로 완전한 3D 그래프 네트워크를 사용하여 모든 수준에서 표현이 완전하고 구분력 있게 유지됨을 보장한다.
• 공유된 파rameter를 통해 수준 간 종합적인 학습이 가능하도록, 종단 간 훈련을 지원하며, 거시적 및 미세한 표현 간 효율적인 공동 학습을 가능하게 한다.
• 아키텍처는 계산 효율성을 유지하도록 설계되었으며, 복잡도가 n(아미노산 수)과 k(평균 차수)의 곱에 비례하는 O(nk)로 스케일링된다.
• 프레임워크는 DIG 라이브러리에 통합되어 공개 접근이 가능하며, 다양한 하류 응용 분야에 대한 확장성도 제공한다.

실험 결과

연구 질문

• RQ1 통합된 그래프 신경망이 다중 구조 수준에서 계층적 단백질 표현을 효과적으로 학습할 수 있는가?
• RQ2 내부 구조적 계층성을 유지하면서 아미노산 수준에서 단백질을 모델링하면 표현 품질과 효율성이 향상되는가?
• RQ3 다른 수준(아미노산, 프레임워크, 전체 원자)의 표현이 다양한 하류 작업 성능에 미치는 영향은 어떠한가?
• RQ4 완전한 3D 그래프 네트워크가 모든 수준에서 정보량이 풍부하고 구분력 있는 표현을 보장할 수 있는가?

주요 결과

• ProNet은 단백질 접힘 예측, 기능 예측, 단백질-리간드 결합 친화도 예측 등 대부분의 벤치마크 데이터셋에서 최근 최신 기술(SOTA) 방법을 뛰어넘는 성능을 보였다.
• 60%의 시퀀스 일치도를 가진 LBA 데이터셋에서 ProNet-All-Atom은 RMSE 1.343 ± 0.025를 기록하여 IEConv 및 Holoprot를 포함한 모든 베이스라인을 초월했다.
• PSR 작업에서 ProNet-All-Atom은 글로벌 스피어만 상관계수 0.849를 기록하여 GVP-GNN(0.845)과 Atom3D-GNN(0.750)를 뛰어넘었다.
• LEP 이진 분류 작업에서 ProNet-All-Atom은 AUROC 0.692를 기록하여 1위를 차지했으며, 이는 다음으로 우수한 방법인 Atom3D-GNN(0.681)을 뛰어넘었다.
• ProNet-Backbone는 PSR에서 최고의 글로벌 스피어만 상관계수(0.845)를 기록하여 생고분자 간 일반화 능력이 뛰어나다는 것을 시사했다.
• 결과는 다양한 하류 작업이 서로 다른 표현 수준에서 유의미한 이점을 얻으며, 전체 원자 수준 및 프레임워크 수준의 모델이 대부분의 작업에서 뛰어난 성능을 보임을 입증한다.