[论文解读] Argumentative XAI: A Survey

Kristijonas Čyras, Antonio Rago+3 more|arXiv (Cornell University)|May 24, 2021

Explainable Artificial Intelligence (XAI)被引用 3

一句话总结

本综述介绍了论证性XAI（Argumentative XAI），一种利用计算论证生成AI决策解释的框架。它根据解释类型（内在型/事后型）、论证框架（如抽象型、双极型、可废止型）以及解释形式（如争议树、对话）对现有方法进行分类，并勾勒出未来在可解释性、计算效率以及与机器学习和反事实推理集成方面的研究路线图。

ABSTRACT

Explainable AI (XAI) has been investigated for decades and, together with AI itself, has witnessed unprecedented growth in recent years. Among various approaches to XAI, argumentative models have been advocated in both the AI and social science literature, as their dialectical nature appears to match some basic desirable features of the explanation activity. In this survey we overview XAI approaches built using methods from the field of computational argumentation, leveraging its wide array of reasoning abstractions and explanation delivery methods. We overview the literature focusing on different types of explanation (intrinsic and post-hoc), different models with which argumentation-based explanations are deployed, different forms of delivery, and different argumentation frameworks they use. We also lay out a roadmap for future work.

研究动机与目标

• 提供基于论证的可解释AI（XAI）方法的全面概述，重点聚焦于计算论证框架。
• 根据解释类型（内在型与事后型）、所用论证框架（如抽象型、双极型、可废止型）以及所交付解释的形式，对现有XAI方法进行分类。
• 识别当前研究中的空白，并为论证性XAI的未来发展提出结构化研究路线图。
• 探索论证性解释与机器学习模型及反事实推理的集成。
• 强调论证框架在为复杂AI系统提供可解释、辩证合理的解释方面的潜力。

提出的方法

• 根据解释是否内置于系统（内在型）或事后添加（事后型），对XAI方法进行分类。
• 回顾并分类XAI中使用的论证框架（AFs），包括抽象论证（AA）、双极论证（BA）和可废止论证（DA），并分别处理攻击与支持关系。
• 分析解释传递机制，如争议树（DTs）、对话，以及具有基底、偏好和完整扩展等语义的论证框架。
• 研究从论证框架中提取解释的计算复杂性，包括特定AF类型（如[ˇCyras et al., 2019b]）的可 tractability 结果。
• 提出论证性XAI与现有解释范式（如反事实解释（CFs）和基于逻辑的解释）之间的联系。
• 勾勒出以语义、计算效率和应用扩展为重点的研究路线图，尤其关注机器学习和概率模型中的应用。

实验结果

研究问题

• RQ1 如何系统性地对计算论证框架进行分类并应用于生成XAI中的解释？
• RQ2 内在型与事后型论证性解释之间的关键差异是什么？它们在哪些情境下最为有效？
• RQ3 不同论证框架（如AA、BA、DA）如何支持不同的解释形式传递（如争议树、对话）？
• RQ4 现有解释方法（如SHAP、反事实、基于逻辑的解释）在多大程度上可被重新解释为论证性解释？
• RQ5 从论证框架中提取和推理解释的主要计算挑战是什么？如何应对这些挑战？

主要发现

• 论证性XAI通过将推理建模为包含攻击与支持的辩证过程，提供了一种灵活且理论基础扎实的解释方法。
• 源自基底扩展的争议树（DTs）可生成模拟主张者-反对者推理的对话式解释。
• 多种基于AF的解释方法已被证明具有可 tractability，例如[ˇCyras et al., 2019b]提出的方法，其在多项式时间内证明了可靠性和完备性。
• 论证性XAI与反事实解释之间具有强大的整合潜力，特别是通过基于关系的反事实（CFs），其与论证中的支持和攻击关系相一致。
• 尽管已取得进展，从AF中提取解释的计算复杂性仍研究不足，亟需系统性研究。
• 该综述指出，在将论证性XAI应用于机器学习模型方面存在显著研究空白，尤其是在分类和概率设定中，尽管这些场景本身具有固有的辩证性质。