[论文解读] Explaining AI as an Exploratory Process: The Peircean Abduction Model

Robert R. Hoffman, William J. Clancey+1 more|arXiv (Cornell University)|Sep 30, 2020

Explainable Artificial Intelligence (XAI)参考文献 31被引用 8

一句话总结

本文提出一种皮尔士式溯因模型，将可解释人工智能（XAI）重新定义为一种探索性、迭代式的过程，而非单步推理。通过将溯因推理建模为假设生成与优化的过程——受查尔斯·桑德斯·皮尔士关于溯因为探究性思维的观点启发——该研究提供了一个理论框架，解释了为何某些XAI系统能够成功，并为构建支持可学习、透明推理过程的系统提供了设计原则。

ABSTRACT

Current discussions of "Explainable AI" (XAI) do not much consider the role of abduction in explanatory reasoning (see Mueller, et al., 2018). It might be worthwhile to pursue this, to develop intelligent systems that allow for the observation and analysis of abductive reasoning and the assessment of abductive reasoning as a learnable skill. Abductive inference has been defined in many ways. For example, it has been defined as the achievement of insight. Most often abduction is taken as a single, punctuated act of syllogistic reasoning, like making a deductive or inductive inference from given premises. In contrast, the originator of the concept of abduction---the American scientist/philosopher Charles Sanders Peirce---regarded abduction as an exploratory activity. In this regard, Peirce's insights about reasoning align with conclusions from modern psychological research. Since abduction is often defined as "inferring the best explanation," the challenge of implementing abductive reasoning and the challenge of automating the explanation process are closely linked. We explore these linkages in this report. This analysis provides a theoretical framework for understanding what the XAI researchers are already doing, it explains why some XAI projects are succeeding (or might succeed), and it leads to design advice.

研究动机与目标

• 解决当前XAI研究中忽视溯因为动态、探索性推理过程的缺口。
• 将可解释人工智能重新定义为非静态的解释生成，而是一个持续的假设形成与评估过程。
• 使人工智能解释机制与皮尔士关于溯因为创造性、迭代性探究过程的哲学观点保持一致。
• 为设计支持可观测、可分析、可学习的溯因推理过程的人工智能系统，提供理论与实践指导。
• 通过将成功归因于设计中包含的溯因探索，解释为何某些XAI项目能够成功。

提出的方法

• 采用查尔斯·桑德斯·皮尔士对溯因的构想，将其视为一种探索性、生成假设的过程，而非一次性推理。
• 通过溯因推理的视角分析现有XAI系统，识别成功与失败的模式。
• 利用人类推理的心理学研究，验证皮尔士模型与自然认知过程的一致性。
• 构建一个理论框架，将溯因推理置于解释生成与系统学习的核心位置。
• 提出支持可追溯、迭代性假设测试与优化的人工智系统设计原则。
• 将溯因中的“最佳解释”概念与通过迭代探索与反馈评估人工智能决策的过程相联系。

实验结果

研究问题

• RQ1 如何在人工智能解释中将溯因重新概念化为一种探索性过程，而非单步推理？
• RQ2 为何某些XAI系统能够成功生成可理解的解释，溯因推理在其中发挥了何种作用？
• RQ3 当将溯因推理视为可学习、迭代性的认知过程时，会涌现出哪些设计原则？
• RQ4 皮尔士将溯因视为探究的观点，如何与现代心理学关于人类推理的研究发现相契合？
• RQ5 假设生成与优化在创造透明且可解释的人工智能决策中扮演何种角色？

主要发现

• 本文确立了将溯因视为探索性过程，能更准确、动态地反映人类与人工智能系统生成解释的机制。
• 当前成功的XAI系统之所以成功，是因为其融入了迭代的假设生成与评估，与皮尔士的溯因探究模型相一致。
• 溯因推理并非一次性推理，而是一种可学习、迭代的解释生成与测试过程，有助于提升透明度与可解释性。
• 皮尔士的哲学模型与现代心理学研究的一致性，验证了该模型在人工智能解释设计中的相关性。
• 基于探索性溯因设计的系统，使用户能够观察、分析并从推理过程中学习，从而增强信任感与可用性。
• 该理论框架通过强调解释生成过程中“过程”而非“结果”的重要性，解释了为何某些XAI项目能够成功。