[论文解读] Drug-Drug Adverse Effect Prediction with Graph Co-Attention

Andreea Deac, Yu-Hsiang Huang+3 more|arXiv (Cornell University)|May 2, 2019

Computational Drug Discovery Methods参考文献 43被引用 68

一句话总结

本论文介绍 MHCADDI，一种图神经网络，通过药物内部消息传递和药物间共注意来联合学习药物表征，用以预测药物-药物不良反应，在仅使用药物结构的情况下，在大型 DDI 数据集上实现了最先进的 AUROC。

ABSTRACT

Complex or co-existing diseases are commonly treated using drug combinations, which can lead to higher risk of adverse side effects. The detection of polypharmacy side effects is usually done in Phase IV clinical trials, but there are still plenty which remain undiscovered when the drugs are put on the market. Such accidents have been affecting an increasing proportion of the population (15% in the US now) and it is thus of high interest to be able to predict the potential side effects as early as possible. Systematic combinatorial screening of possible drug-drug interactions (DDI) is challenging and expensive. However, the recent significant increases in data availability from pharmaceutical research and development efforts offer a novel paradigm for recovering relevant insights for DDI prediction. Accordingly, several recent approaches focus on curating massive DDI datasets (with millions of examples) and training machine learning models on them. Here we propose a neural network architecture able to set state-of-the-art results on this task---using the type of the side-effect and the molecular structure of the drugs alone---by leveraging a co-attentional mechanism. In particular, we show the importance of integrating joint information from the drug pairs early on when learning each drug's representation.

研究动机与目标

• 推动对多药并用不良反应的早期预测，以降低临床和经济负担。
• 开发一种神经网络架构，从分子图中学习联合药物表征。
• 展示跨药物共注意力在仅使用药物结构的情况下提升预测性能。
• 在大型 DDI 数据集上进行评估，并与现有基线进行比较。
• 展示消融实验以突出联合学习和注意力机制的重要性。

提出的方法

• 将每种药物表示为一个分子图，原子为节点，键为边。
• 对每种药物应用 T=3 的消息传递块来学习药物内部表征。
• 在两种药物之间引入共注意力以计算外部信息并形成联合表征。
• 使用多头注意力（K=8）聚合跨药物信息并更新原子特征。
• 通过对原子特征求和来获得药物一级向量并评估不良反应发生的可能性。
• 使用基于边际的排序损失进行二分类，或用于多标签分类的二元交叉熵进行训练。

实验结果

研究问题

• RQ1 仅使用分子结构的情况下，通过跨药物共注意力的药物表征联合学习，是否能改善 DDI 不良反应预测？
• RQ2 将药物内部消息传递与药物间注意力整合，如何影响对多种不良反应的预测性能？
• RQ3 多头共注意力和早期跨模态信息是否能带来相比单模态或晚融合基线的可衡量提升？
• RQ4 在大规模 DDI 数据集上，所提出的模型在 AUROC 指标上与现有基线相比如何？

主要发现

模型	AUROC
Drug-Fingerprints (Jin et al. 2017)	0.744
RESCAL (Nickel et al. 2011)	0.693
DEDICOM (Papalexakis et al. 2017)	0.705
DeepWalk (Perozzi et al. 2014)	0.761
Concatenated features (Zitnik et al. 2018)	0.793
Decagon (Zitnik et al. 2018)	0.872
MHCADDI (ours)	0.882
MHCADDI-ML (ours)	0.819

• MHCADDI 在 AUROC 上优于包括 Decagon 和 Drug-Fingerprints 在内的强基线（在主二元设定下为 0.882 vs. 0.872 的 Decagon）。
• 消融结果显示联合学习和早期跨药物信息（共注意力）显著优于后期融合药物或仅使用内部消息传递的架构，提升性能。
• 多标签变体（MHCADDI-ML）保持竞争力，尽管在 AUROC 上略落后于单标签 MHCADDI。
• t-SNE 分析表明药物–药物嵌入在每种不良反应下有明显的聚类，表明存在有意义的联合表征。