[论文解读] XAI Method Properties: A (Meta-)study.

Gesina Schwalbe, Bettina Finzel|arXiv (Cornell University)|May 15, 2021

Explainable Artificial Intelligence (XAI)参考文献 111被引用 9

一句话总结

本篇元分析综合了可解释人工智能（XAI）领域中引用最多且最新的分类体系，统一了来自综述文献的术语、概念和评估标准。该研究在更高级别的分类体系中对50余种XAI方法进行了分类，为未来的研究与应用提供了全面且情境相关的框架。

ABSTRACT

In the meantime, a wide variety of terminologies, motivations, approaches and evaluation criteria have been developed within the scope of research on explainable artificial intelligence (XAI). Many taxonomies can be found in the literature, each with a different focus, but also showing many points of overlap. In this paper, we summarize the most cited and current taxonomies in a meta-analysis in order to highlight the essential aspects of the state-of-the-art in XAI. We also present and add terminologies as well as concepts from a large number of survey articles on the topic. Last but not least, we illustrate concepts from the higher-level taxonomy with more than 50 example methods, which we categorize accordingly, thus providing a wide-ranging overview of aspects of XAI and paving the way for use case-appropriate as well as context-specific subsequent research.

研究动机与目标

• 整合并分析可解释人工智能（XAI）研究中最具影响力和最新的分类体系。
• 统一多篇XAI综述文章中不同的术语和概念框架。
• 构建一个能够系统整合和组织现有XAI方法的更高级别分类体系。
• 为未来XAI研究和方法选择提供结构化且适用于具体应用场景的参考。
• 通过将50余种具体XAI方法进行分类，展示该分类体系的实际适用性。

提出的方法

• 对XAI文献中引用最多且最新的分类体系进行元分析。
• 从综述文章中提取并综合核心术语、动机和评估标准。
• 构建一个捕捉XAI方法关键维度的更高级别分类体系。
• 基于其属性和设计原则，将50余种具体XAI方法映射到所提出的分类体系中。
• 通过主题分析和结构分析，识别XAI方法之间的共性和差异。
• 通过代表性方法的系统分类，验证分类体系的一致性和覆盖范围。

实验结果

研究问题

• RQ1 当前XAI研究中的主流分类框架是什么？它们之间有何关联？
• RQ2 哪些核心概念和术语在XAI综述文献中被一致使用？
• RQ3 如何构建一个统一的更高级别分类体系，以整合多样化的XAI方法属性？
• RQ4 现有XAI方法在多大程度上与所提出的分类体系一致？还存在哪些空白？
• RQ5 所形成的分类体系如何支持情境特定且适用于具体应用场景的XAI方法选择？

主要发现

• 尽管术语和关注点不同，众多XAI分类体系在核心概念上存在显著重叠。
• 成功构建了一个统一的更高级别分类体系，整合了多个现有框架的关键属性。
• 超过50种XAI方法被系统地归类到所提出的分类体系中，证明了其实际适用性。
• 该研究揭示了XAI方法设计中的重复主题，如忠实性、保真度和以用户为中心的可解释性。
• 元分析揭示了评估标准和术语使用中的不一致性，表明亟需标准化。
• 最终形成的分类体系为未来研究提供了结构化基础，有助于实现更精准和情境感知的XAI开发。