[论文解读] Wasserstein Adversarial Autoencoders for Knowledge Graph Embedding based Drug-Drug Interaction Prediction.

Yuanfei Dai, Chenhao Guo+2 more|arXiv (Cornell University)|Apr 15, 2020

Computational Drug Discovery Methods被引用 2

一句话总结

该论文提出了一种Wasserstein对抗自编码器（WAAE）框架，通过利用Gumbel-Softmax松弛和Wasserstein距离，为药物-药物相互作用（DDI）预测中的知识图谱嵌入生成高质量的负样本。通过提升负样本质量并利用对抗学习稳定训练过程，该方法在链接预测和DDI分类任务中显著优于现有基线模型。

ABSTRACT

Interaction between pharmacological agents can trigger unexpected adverse events. Capturing richer and more comprehensive information about drug-drug interactions (DDI) is one of the key tasks in public health and drug development. Recently, several knowledge graph embedding approaches have received increasing attention in the DDI domain due to their capability of projecting drugs and interactions into a low-dimensional feature space for predicting links and classifying triplets. However, existing methods only apply a uniformly random mode to construct negative samples. As a consequence, these samples are often too simplistic to train an effective model. In this paper, we propose a new knowledge graph embedding framework by introducing adversarial autoencoders (AAE) based on Wasserstein distances and Gumbel-Softmax relaxation for drug-drug interactions tasks. In our framework, the autoencoder is employed to generate high-quality negative samples and the hidden vector of the autoencoder is regarded as a plausible drug candidate. Afterwards, the discriminator learns the embeddings of drugs and interactions based on both positive and negative triplets. Meanwhile, in order to solve vanishing gradient problems on the discrete representation--an inherent flaw in traditional generative models--we utilize the Gumbel-Softmax relaxation and the Wasserstein distance to train the embedding model steadily. We empirically evaluate our method on two tasks, link prediction and DDI classification. The experimental results show that our framework can attain significant improvements and noticeably outperform competitive baselines.

研究动机与目标

• 为解决现有知识图谱嵌入模型在药物-药物相互作用（DDI）预测中采用均匀随机负采样的局限性。
• 通过生成更合理的药物相互作用候选负样本，提升模型泛化能力与训练稳定性。
• 克服传统生成模型中常见的离散表示学习的梯度消失问题。
• 通过更稳健的对抗训练框架，提升在链接预测与DDI分类任务中的性能。

提出的方法

• 利用自编码器学习药物的潜在表示，将隐藏向量视为合理的药物候选，从而生成高质量的负样本。
• 引入判别器，通过Wasserstein距离区分真实正样本三元组与生成的负样本三元组，实现更稳定的训练过程。
• 应用Gumbel-Softmax松弛技术，实现从离散分布中的可微采样，缓解离散潜在空间中的梯度消失问题。
• 采用对抗学习联合训练自编码器与判别器，其中生成器（自编码器）负责提升负样本质量，判别器则优化嵌入表示。
• 将Wasserstein距离作为GAN损失函数，相比标准GAN目标，实现更稳定且有意义的训练动态。
• 将药物与相互作用映射到低维嵌入空间，同时在该空间中执行链接预测与三元组分类任务。

实验结果

研究问题

• RQ1 通过对抗学习生成的负样本能否提升知识图谱嵌入模型在药物-药物相互作用预测中的性能？
• RQ2 Gumbel-Softmax松弛的引入在DDI建模的离散表示学习中如何增强训练稳定性？
• RQ3 在GAN框架中引入Wasserstein距离在多大程度上提升了生成负样本的质量与下游预测准确率？
• RQ4 所提出的WAAE框架是否在链接预测与DDI分类任务中均优于现有知识图谱嵌入模型？

主要发现

• 所提出的WAAE框架在链接预测性能方面相比竞争性基线模型实现了显著提升。
• 模型在DDI分类准确率上表现出明显增益，表明其对相互作用模式的学习能力更强。
• Gumbel-Softmax松弛有效缓解了离散潜在空间优化中的梯度消失问题。
• 引入Wasserstein距离使训练动态更加稳定，并提升了判别器的性能。
• 自编码器生成的负样本比均匀随机负样本更具合理性与语义意义。
• 实证评估证实，该框架在链接预测与DDI分类基准上均持续优于最先进方法。