[论文解读] Explainable AI for Bioinformatics: Methods, Tools, and Applications

Md. Rezaul Karim, Tanhim Islam+5 more|arXiv (Cornell University)|Dec 25, 2022

Explainable Artificial Intelligence (XAI)被引用 7

一句话总结

本文全面综述了适用于生物信息学的可解释人工智能（XAI）方法、工具和应用，重点聚焦于模型无关与模型特定的可解释性技术，以提升深度学习和机器学习模型的透明度。通过案例研究和一个公开的GitHub仓库，展示了XAI如何在生物影像、癌症基因组学和文本挖掘中提升决策质量。

ABSTRACT

Artificial intelligence (AI) systems utilizing deep neural networks (DNNs) and machine learning (ML) algorithms are widely used for solving important problems in bioinformatics, biomedical informatics, and precision medicine. However, complex DNNs or ML models, which are often perceived as opaque and black-box, can make it difficult to understand the reasoning behind their decisions. This lack of transparency can be a challenge for both end-users and decision-makers, as well as AI developers. Additionally, in sensitive areas like healthcare, explainability and accountability are not only desirable but also legally required for AI systems that can have a significant impact on human lives. Fairness is another growing concern, as algorithmic decisions should not show bias or discrimination towards certain groups or individuals based on sensitive attributes. Explainable artificial intelligence (XAI) aims to overcome the opaqueness of black-box models and provide transparency in how AI systems make decisions. Interpretable ML models can explain how they make predictions and the factors that influence their outcomes. However, most state-of-the-art interpretable ML methods are domain-agnostic and evolved from fields like computer vision, automated reasoning, or statistics, making direct application to bioinformatics problems challenging without customization and domain-specific adaptation. In this paper, we discuss the importance of explainability in the context of bioinformatics, provide an overview of model-specific and model-agnostic interpretable ML methods and tools, and outline their potential caveats and drawbacks. Besides, we discuss how to customize existing interpretable ML methods for bioinformatics problems. Nevertheless, we demonstrate how XAI methods can improve transparency through case studies in bioimaging, cancer genomics, and text mining.

研究动机与目标

• 解决在人工智能驱动的生物医学研究中，尤其是在影响人类生命的医疗环境中，对透明度和问责制的迫切需求。
• 识别并分析将通用可解释机器学习方法直接应用于生物信息学问题时，缺乏领域特定适配所导致的局限性。
• 系统性地概述适用于高维、多模态生物信息学数据的模型无关与模型特定XAI技术。
• 展示现有XAI方法在生物信息学应用中的定制化，包括基因组学、影像学和临床文本挖掘。
• 提供实用指导和可复现的案例研究框架（通过GitHub），帮助研究人员在其自身的生物信息学工作流中实现和评估XAI。

提出的方法

• 调查并分类模型无关的XAI方法，如LIME、SHAP和置换特征重要性（PFI），这些方法生成与模型架构无关的局部或全局解释。
• 回顾模型特定的技术，包括显著性图、Grad-CAM以及神经网络中的注意力机制，尤其针对生物影像和自然语言处理中的卷积神经网络和基于Transformer的模型。
• 介绍并评估高级方法如SHapley Additive exPlanations（SHAP），该方法基于博弈论原理，提供忠实且局部准确的解释。
• 提出一种将通用XAI工具适配生物信息学的框架，通过整合领域特定约束，如特征的生物学可解释性及通路层面的解释。
• 在三个案例研究中应用这些方法：癌症基因组学（如预测治疗反应）、生物影像学（如肿瘤检测）以及生物医学文本挖掘（如实体和关系抽取）。
• 利用公开的GitHub仓库（https://github.com/rezacsedu/XAI-for-bioinformatics）共享代码、数据集和可复现的实验，以确保透明度和可重用性。

实验结果

研究问题

• RQ1 如何有效适配模型无关的XAI方法（如SHAP和LIME）以解释生物信息学应用中的复杂深度神经网络？
• RQ2 将通用可解释机器学习技术应用于高维、多模态生物数据（如基因组学和医学影像）时，面临哪些关键挑战？
• RQ3 XAI技术在何种方式下提升了用于精准医学和临床决策支持的AI系统中的决策透明度与可信度？
• RQ4 如何将领域特定知识整合到XAI流程中，以确保解释具有生物学意义且可操作？
• RQ5 当前XAI工具在应用于真实世界生物信息学问题时，存在哪些实际局限性和潜在陷阱？

主要发现

• 模型无关方法（如SHAP和LIME）在生物影像和基因组学中为复杂DNN提供了可靠的局部解释，使用户能够将预测追溯到输入特征。
• Transformer和CNN模型中的注意力机制与显著性图能够突出组织病理学图像和基因组序列中的生物学相关区域，从而提升可解释性。
• SHAP值成功用于识别影响癌症基因组学中治疗反应预测的关键遗传变异和临床特征，结果与已知生物通路一致。
• 对XAI工具的定制化（如整合通路知识或生物学约束）显著提升了多组学数据分析中解释的相关性和可信度。
• 案例研究证明，XAI不仅增强了模型的透明度，还支持了生物医学研究中的假说生成与验证。
• 公开的GitHub仓库（https://github.com/rezacsedu/XAI-for-bioinformatics）提供了一个可重用、可复现的框架，适用于多种生物信息学任务，加速了研究社区中的采纳进程。