[논문 리뷰] Drug-Drug Adverse Effect Prediction with Graph Co-Attention

Andreea Deac, Yu-Hsiang Huang외 3명|arXiv (Cornell University)|2019. 05. 02.

Computational Drug Discovery Methods참고 문헌 43인용 수 68

한 줄 요약

본 논문은 약물-약물 부작용 예측을 위해 약물 내부 메시지 전달과 약물 간 동관 attentions를 공동으로 학습하는 그래프 신경망 MHCADDI를 제시한다. 대규모 DDI 데이터셋에서 약물 구조만 활용하여 최첨단 AUROC를 달성한다.

ABSTRACT

Complex or co-existing diseases are commonly treated using drug combinations, which can lead to higher risk of adverse side effects. The detection of polypharmacy side effects is usually done in Phase IV clinical trials, but there are still plenty which remain undiscovered when the drugs are put on the market. Such accidents have been affecting an increasing proportion of the population (15% in the US now) and it is thus of high interest to be able to predict the potential side effects as early as possible. Systematic combinatorial screening of possible drug-drug interactions (DDI) is challenging and expensive. However, the recent significant increases in data availability from pharmaceutical research and development efforts offer a novel paradigm for recovering relevant insights for DDI prediction. Accordingly, several recent approaches focus on curating massive DDI datasets (with millions of examples) and training machine learning models on them. Here we propose a neural network architecture able to set state-of-the-art results on this task---using the type of the side-effect and the molecular structure of the drugs alone---by leveraging a co-attentional mechanism. In particular, we show the importance of integrating joint information from the drug pairs early on when learning each drug's representation.

연구 동기 및 목표

• 다임 임상 및 경제적 부담을 줄이기 위한 다약제 부작용의 조기 예측 동기화.
• 분자 그래프에서 공동 약물 표현을 학습하는 신경망 구조 개발.
• 약물 구조만을 사용해 교차 약물 동관(co-attention)이 예측을 개선함을 보임.
• 대규모 DDI 데이터셋에서 평가하고 기존 베이스라인과 비교.
• 공동 학습과 주의 메커니즘의 중요성을 강조하기 위한 제거(ablations) 수행.

제안 방법

• 각 약물을 원자 노드, 결합 에지로 구성된 분자 그래프로 표현합니다.
• 각 약물에 대해 T=3의 메시지 전달 블록을 적용하여 내부 약물 표현을 학습합니다.
• 두 약물 간의 공동 주의(co-attention)를 통합하여 외부 메시지를 계산하고 공동 표현을 형성합니다.
• 다중 헤드 주의(K=8)를 사용하여 교차 약물 정보를 집계하고 원자 특성을 업데이트합니다.
• 원자 특성을 합산하여 약물 수준 벡터를 얻고 부작용 가능성을 점수화합니다.
• 이진 분류의 경우 마진 기반 순위 손실, 다라벨 분류의 경우 이진 교차 엔트로피 손실로 학습합니다.

실험 결과

연구 질문

• RQ1 교차 약물 동관을 통한 약물 표현의 공동 학습이 약물 구조만으로 DDI 부작용 예측을 개선할 수 있는가?
• RQ2 약물 내부 메시지 전달과 외부 주의의 통합이 여러 부작용에 걸쳐 예측 성능에 어떤 영향을 미치는가?
• RQ3 다중 헤드 동관과 조기 교차 모달 정보가 단일 모달 또는 후기 융합 베이스라인 대비 측정 가능한 이점을 주는가?
• RQ4 제안된 모델이 대규모 DDI 데이터셋에서 AUROC 면에서 기존 베이스라인과 어떻게 비교되는가?

주요 결과

모델	AUROC
Drug-Fingerprints (Jin et al. 2017)	0.744
RESCAL (Nickel et al. 2011)	0.693
DEDICOM (Papalexakis et al. 2017)	0.705
DeepWalk (Perozzi et al. 2014)	0.761
Concatenated features (Zitnik et al. 2018)	0.793
Decagon (Zitnik et al. 2018)	0.872
MHCADDI (ours)	0.882
MHCADDI-ML (ours)	0.819

• MHCADDI는 AUROC에서 Decagon 및 Drug-Fingerprints를 포함한 강력한 베이스라인을 능가한다(주요 이진 설정에서 Decagon의 0.872 대비 0.882).
• 제거(ablations)는 공동 학습과 조기 교차 약물 정보(co-attention)가 후속 융합 방식이나 내부 메시지 전달만을 사용하는 아키텍처보다 성능을 크게 개선함을 보인다.
• 다중 라벨 변형(MHCADDI-ML)은 단일 라벨 MHCADDI보다 AUROC에서 약간 뒤져 competetive한 수준을 유지한다.
• t-SNE 분석은 부작용별 약물-약물 임베딩의 뚜렷한 군집화를 시사하며 의미 있는 공동 표현을 시사한다.