[论文解读] Explainable Artificial Intelligence for Drug Discovery and Development -- A Comprehensive Survey

Roohallah Alizadehsani, Oyelere, Solomon Sunday+6 more|arXiv (Cornell University)|Sep 21, 2023

Computational Drug Discovery Methods被引用 4

一句话总结

本篇全面综述提出将可解释人工智能（XAI）系统性地整合到药物发现与开发中，以增强复杂机器学习模型的透明度与可信度。通过分析目标识别、化合物设计和毒性预测等阶段的XAI技术，本文展示了可解释性如何提升决策质量、减少偏差并支持监管审批，为未来在动态、伦理及领域特定的XAI应用研究提供了路线图。

ABSTRACT

The field of drug discovery has experienced a remarkable transformation with the advent of artificial intelligence (AI) and machine learning (ML) technologies. However, as these AI and ML models are becoming more complex, there is a growing need for transparency and interpretability of the models. Explainable Artificial Intelligence (XAI) is a novel approach that addresses this issue and provides a more interpretable understanding of the predictions made by machine learning models. In recent years, there has been an increasing interest in the application of XAI techniques to drug discovery. This review article provides a comprehensive overview of the current state-of-the-art in XAI for drug discovery, including various XAI methods, their application in drug discovery, and the challenges and limitations of XAI techniques in drug discovery. The article also covers the application of XAI in drug discovery, including target identification, compound design, and toxicity prediction. Furthermore, the article suggests potential future research directions for the application of XAI in drug discovery. The aim of this review article is to provide a comprehensive understanding of the current state of XAI in drug discovery and its potential to transform the field.

研究动机与目标

• 解决在药物发现中使用AI/ML模型时对可解释性的关键需求，因为复杂预测缺乏透明度。
• 系统性地回顾XAI技术及其在药物发现关键阶段（包括目标识别、化合物设计和毒性预测）的应用。
• 识别当前XAI方法在生物医学数据和监管要求背景下的局限性与挑战。
• 提出未来研究方向，以推进XAI，包括动态解释适应、伦理考量以及混合建模。
• 通过领域特定的解释框架，弥合技术性AI输出与研究人员、临床医生及监管机构实际决策之间的差距。

提出的方法

• 对最先进的XAI方法进行全面调查，包括事后解释技术（如LIME、SHAP）、内在可解释模型以及基于注意力的方法。
• 将XAI在药物发现中的应用按三大核心任务进行分类与分析：目标识别、化合物设计和毒性预测。
• 根据其提供忠实、可操作且用户可理解的解释能力，评估XAI框架在不同利益相关者中的表现。
• 整合认知心理学与可视化科学的见解，设计以用户为中心的XAI界面，以支持决策制定。
• 提出未来的方法论方向，如动态解释适应以应对模型和数据的变化，以及结合黑箱性能与可解释推理的混合模型。
• 探索领域特定的解释语言，以针对非技术用户（包括监管机构和患者）定制AI输出。

a Explainability vs. Prediction Accuracy

实验结果

研究问题

• RQ1 XAI技术如何提升药物发现中AI驱动预测的可解释性与可信度？
• RQ2 在药物开发中，将XAI方法应用于复杂、高维的生物与化学数据时，面临哪些关键挑战与局限性？
• RQ3 XAI如何适应实时药物发现流水线中不断演进的模型与流式数据？
• RQ4 在面向医疗的药物开发中部署XAI时，会引发哪些伦理考量，如偏差、公平性与数据隐私？
• RQ5 如何设计XAI框架，以有效向多学科利益相关者（包括临床医生和监管机构）传达复杂的AI洞察？

主要发现

• XAI通过为模型预测提供可解释的依据，显著提升了AI驱动药物发现中的信任度与透明度。
• 事后解释方法如LIME和SHAP虽被广泛使用，但在应用于分子数据中的复杂深度学习模型时，可能缺乏忠实度。
• 在目标识别与毒性预测中引入XAI，可帮助研究人员检测模型偏差，并提升预测结果的生物学合理性。
• 随着模型重新训练或使用新数据更新，动态解释适应对于维持可解释性至关重要。
• 伦理考量如偏差、公平性与数据隐私在XAI设计中至关重要，必须在面向医疗应用时主动应对。
• 未来XAI框架应整合领域特定的语言与可视化策略，使非技术利益相关者在药物开发中也能理解AI洞察。

b Explainability vs. Learning Performance