[论文解读] Explainable Artificial Intelligence: a Systematic Review

Giulia Vilone, Luca Longo|arXiv (Cornell University)|May 29, 2020

Explainable Artificial Intelligence (XAI)参考文献 307被引用 90

一句话总结

一项系统性综述，将 XAI 文献分为四个主要群集——综述、概念、方法和评估，并概述了最新进展与未来方向。

ABSTRACT

Explainable Artificial Intelligence (XAI) has experienced a significant growth over the last few years. This is due to the widespread application of machine learning, particularly deep learning, that has led to the development of highly accurate models but lack explainability and interpretability. A plethora of methods to tackle this problem have been proposed, developed and tested. This systematic review contributes to the body of knowledge by clustering these methods with a hierarchical classification system with four main clusters: review articles, theories and notions, methods and their evaluation. It also summarises the state-of-the-art in XAI and recommends future research directions.

研究动机与目标

• 通过定义清晰的边界和分组来组织庞大的 XAI 文献。
• 提出一个分层的 XAI 研究分类体系。
• 总结 XAI 领域的前沿概念、观念与评估方法。
• 提出 XAI 的未来研究方向和待解决的挑战。

提出的方法

• 使用 Google Scholar 搜索可解释性文献，关键词为：'explainable artificial intelligence'、'explainable machine learning'、'interpretable machine learning'。
• 执行两阶段文章筛选：阶段1识别约200 篇同行评审出版物；阶段2分析参考文献以汇聚到约100篇文章。
• 将所选工作分类为四个主要类别：综述、概念、方法和评估。
• 构建一个树状层级图，将 XAI 文献的叶子表示为单个文章。
• 综合与可解释性相关的概念，概述来自人机交互文献的评估概念和指标。

实验结果

研究问题

• RQ1 可解释人工智能文献的主要类别与边界是什么？
• RQ2 在各研究中，关于可解释性的概念是如何被定义与实施的？
• RQ3 存在哪些可解释性的方法，以及它们是如何评估的？
• RQ4 在 XAI 中识别出的未来方向与挑战是什么？
• RQ5 综述如何在跨领域地组织与综合多样的 XAI 方法？

主要发现

• 识别出 XAI 文献的四个主要类别：综述、概念、用于可解释性的新的方法，以及可解释性的评估。
• 树状分层图显示类别之间的分布和依赖，强调综述如何依赖概念、方法和评估。
• 综述集中在应用领域、构建方法、理论和概念、输出格式、问题类型以及通用/系统综述。
• 解释可以采取文本、可视化或基于规则的格式，其有效性与信任、因果性、完备性和理解性等概念相关。
• 伦理和法律背景（例如 GDPR 的解释权）推动对透明且可解释系统的需求。
• 文献强调以人为本的因素，以及来自 HCI、认知科学和哲学的跨学科见解，在定义可解释性和评估解释方面。