[논문 리뷰] Bi-Level Graph Neural Networks for Drug-Drug Interaction Prediction

Yunsheng Bai, Ken Gu외 2명|arXiv (Cornell University)|2020. 06. 11.

Computational Drug Discovery Methods참고 문헌 19인용 수 10

한 줄 요약

이 논문은 분자 구조 표현(저수준 그래프)과 약물 상호작용 네트워크(고수준 그래프)를 동시에 활용하여 약물-약물 상호작용을 모델링하는 이중수준 그래프 신경망인 Bi-GNN을 제안한다. 양수준 간 메시지 전파를 수행함으로써 Bi-GNN은 특히 상호작용 데이터가 희박한 약물에 대해 최신 기술 수준의 성능을 달성하며, 기존 방법들보다 낮은 차수 영역에서 뛰어난 성능을 보이며 학습된 임bedding과 진짜 상호작용 패턴 간의 강한 상관관계를 보여준다.

ABSTRACT

We introduce Bi-GNN for modeling biological link prediction tasks such as drug-drug interaction (DDI) and protein-protein interaction (PPI). Taking drug-drug interaction as an example, existing methods using machine learning either only utilize the link structure between drugs without using the graph representation of each drug molecule, or only leverage the individual drug compound structures without using graph structure for the higher-level DDI graph. The key idea of our method is to fundamentally view the data as a bi-level graph, where the highest level graph represents the interaction between biological entities (interaction graph), and each biological entity itself is further expanded to its intrinsic graph representation (representation graphs), where the graph is either flat like a drug compound or hierarchical like a protein with amino acid level graph, secondary structure, tertiary structure, etc. Our model not only allows the usage of information from both the high-level interaction graph and the low-level representation graphs, but also offers a baseline for future research opportunities to address the bi-level nature of the data.

연구 동기 및 목표

• 생물학적 링크 예측 작업에서 기존 GNN 방법들이 단일 수준의 그래프 구조만 모델링하는 데에 한계가 있다는 문제를 해결하기 위해.
• 분자 수준의 그래프 표현과 고수준 상호작용 네트워크를 동시에 활용하여 약물-약물 상호작용(DDI) 예측 성능을 향상시키기 위해.
• 내재된 분자적 특성과 체계적 상호작용 패턴을 모두 포괄하는 확장 가능하고 일반화 가능한 프레임워크를 개발하기 위해.
• 전통적 모델이 이웃 정보가 부족해 어려움을 겪는 희박한 상호작용 환경에서의 성능 평가를 위해.

제안 방법

• 프레임워크는 이중수준 그래프를 구성한다: 저수준 그래프는 개별 약물 분자를 표현한다(예: 원자와 결합), 고수준 그래프는 약물 간 상호작용을 모델링한다.
• 저수준 GNN(특히 다중 척도 리아웃을 갖춘 GAT)은 주목성 기반 메시지 전파를 사용하여 분자 구조에서 그래프 수준 임베딩을 생성한다.
• 고수준 GNN은 저수준 그래프의 임베딩을 상호작용 네트워크를 따라 전파하여 약물 간 정보 교환을 가능하게 한다.
• 최종 리아웃 레이어는 완전 연결 네트워크를 사용하여 고수준 표현을 결합하여 링크 예측을 수행한다.
• 기존의 one-hot 초기화 기반 베이스라인과 달리, 모델은 이행형(inductive) 추론도 지원한다.
• 계층적 실체 구조를 모델링함으로써, 이 방법은 단백질-단백질 상호작용과 같은 다른 생물학적 네트워크로도 확장 가능하다.

실험 결과

연구 질문

• RQ1 분자 구조와 약물 상호작용 네트워크를 동시에 모델링하는 것이 단일 수준 GNN보다 약물-약물 상호작용 예측 성능을 향상시키는가?
• RQ2 노드의 차수가 낮은, 상호작용 이력이 희박한 약물에 대해 Bi-GNN은 어떻게 성능을 내는가? 기존 모델이 이웃 정보가 부족해 실패하는 상황에서의 성능을 평가하기 위해.
• RQ3 학습된 약물 임베딩이 DDI 네트워크의 실제 상호작용 패턴과 어느 정도 상관관계를 가지는가?
• RQ4 고수준 상호작용 그래프를 통해 메시지 전파하는 것이 저수준 분자 표현 학습보다 더 많은 기여를 하는가?
• RQ5 one-hot 초기화 모델과 달리, 이중수준 GNN 프레임워크는 새로운 약물에 대해 인도적 설정에서 일반화가 잘 되는가?

주요 결과

• Bi-GNN은 DDI 예측에서 최신 기술 수준의 성능을 달성하며, Decagon-OH를 포함한 모든 베이스라인을 능가한다. 특히 저차수 영역에서 두각을 나타낸다.
• 노드의 차수가 낮을 때 Bi-GNN은 Decagon-OH를 크게 능가하여 희박한 상호작용 네트워크에 대한 강건성을 입증한다.
• t-SNE 시각화 결과, Bi-GNN과 Decagon-OH는 상호작용 패턴에 따라 약물 임베딩이 군집화되는 반면, LL-GNN의 임베딩은 그러한 군집화가 없다.
• 고수준 메시지 전파 메커니즘이 저수준 분자 표현 학습보다 더 큰 기여를 한다.
• Bi-GNN는 one-hot 초기화 모델보다 새로운 약물에 대해 더 잘 일반화된다. 이는 이행형 초기화에 의존하지 않기 때문이다.
• 두 수준의 통합은 특히 알려진 상호작용이 적은 약물에 대해 더 나은 표현 학습을 가능하게 하며, 이는 희박한 네트워크에서 자주 간과당하는 약물들이다.