Skip to main content
QUICK REVIEW

[论文解读] Emergent, not Immanent: A Baradian Reading of Explainable AI

Fabio Morreale, Joan Serrà|arXiv (Cornell University)|Jan 21, 2026
Explainable Artificial Intelligence (XAI)Computer Science被引用 0
一句话总结

本论文将 Barad 的代理现实主义与衍射应用到可解释AI(XAI),将解释重新框定为源自模型、解释者、数据与语境之间纠缠的物质-话语性表演,而非存在于模型内部的预先条件。

ABSTRACT

Explainable AI (XAI) is frequently positioned as a technical problem of revealing the inner workings of an AI model. This position is affected by unexamined onto-epistemological assumptions: meaning is treated as immanent to the model, the explainer is positioned outside the system, and a causal structure is presumed recoverable through computational techniques. In this paper, we draw on Barad's agential realism to develop an alternative onto-epistemology of XAI. We propose that interpretations are material-discursive performances that emerge from situated entanglements of the AI model with humans, context, and the interpretative apparatus. To develop this position, we read a comprehensive set of XAI methods through agential realism and reveal the assumptions and limitations that underpin several of these methods. We then articulate the framework's ethical dimension and propose design directions for XAI interfaces that support emergent interpretation, using a speculative text-to-music interface as a case study.

研究动机与目标

  • 挑战“解释存在于等待被发现的 AI 模型内部”这一观点。
  • 将可解释性重构为通过模型、人与数据、情境之间的内在作用而产生的物质-话语性表演。
  • 通过代理现实主义与衍射方法批判性评估常见的 XAI 方法,以暴露假设与局限性。
  • 在 Baradian 视角下阐明 emergent XAI 界面的伦理含义与设计方向。

提出的方法

  • 通过 Baradian 光学(折射、反射、衍射)对一整套 XAI 方法进行评述。
  • 提供数学形式化与图示表示(表1),比较模型、设备与人类解释者如何共同构成解释。
  • 应用代理现实主义与衍射来识别 XAI 方法背后的本体论与认识论承诺。
  • 讨论伦理含义并提出支持 emergent interpretation 的界面设计方向,并以一个推测性的文本到音乐案例研究加以说明。

实验结果

研究问题

  • RQ1Baradian 光学(折射、反射、衍射)如何揭示现有 XAI 方法背后的假设?
  • RQ2解释是否可以理解为涌现的物质-话语性表演,而非预先存在于模型中的实体?
  • RQ3当将可解释性框定为参与者与情境的纠缠时,会带来哪些伦理与设计方面的影响?
  • RQ4XAI 界面如何支持多元、协商的解释,而非单一规范解释?

主要发现

  • XAI 方法常将解释视为模型内的预先存在实体,这一观点通过代理现实主义受到了挑战。
  • 衍射/代理现实主义揭示解释来自 AI、人类、数据与情境的内在作用,而不仅仅是在模型内部被发现。
  • Baradian 分析揭示了标准 XAI 方法(如特征归因、基于样本、基于探测、机械性、互动式 XAI)的局限性与隐藏承诺。
  • XAI 的伦理维度被重新框定,强调责任与问责在社会技术配置中的分布式分布,而不仅仅位于模型或解释者。
  • 论文提出面向 emergent、多维解释的 XAI 界面设计方向,通过一个推测性的文本到音乐案例研究予以示范。

阅读本论文

在 Nubint 阅读器中打开原文,边读边就任意段落提问。

在 Nubint 中阅读本论文

本解读由 AI 根据论文原文生成,引用前请核对原文。