Skip to main content
QUICK REVIEW

[論文レビュー] Emergent, not Immanent: A Baradian Reading of Explainable AI

Fabio Morreale, Joan Serrà|arXiv (Cornell University)|Jan 21, 2026
Explainable Artificial Intelligence (XAI)Computer Science被引用数 0
ひとこと要約

この論文は Barad のエージェント実在論と回折を XAI に適用し、説明をモデル自体にあらかじめ存在するものとしてではなく、モデル、翻訳者、データ、文脈間の絡み合いから生まれる物質- discursif なパフォーマンスとして再定義する。

ABSTRACT

Explainable AI (XAI) is frequently positioned as a technical problem of revealing the inner workings of an AI model. This position is affected by unexamined onto-epistemological assumptions: meaning is treated as immanent to the model, the explainer is positioned outside the system, and a causal structure is presumed recoverable through computational techniques. In this paper, we draw on Barad's agential realism to develop an alternative onto-epistemology of XAI. We propose that interpretations are material-discursive performances that emerge from situated entanglements of the AI model with humans, context, and the interpretative apparatus. To develop this position, we read a comprehensive set of XAI methods through agential realism and reveal the assumptions and limitations that underpin several of these methods. We then articulate the framework's ethical dimension and propose design directions for XAI interfaces that support emergent interpretation, using a speculative text-to-music interface as a case study.

研究の動機と目的

  • 説明が AI モデルの内部にあり、発見を待つものだという考えに挑戦する。
  • 解釈可能性を、モデル、人間、データ、文脈間の intra-actions によって生み出される物質- discursif なパフォーマンスとして再定義する。
  • エージェント実在論と回折を用いて一般的な XAI 手法を批判的に評価し、前提と限界を明らかにする。
  • Baradian の光学に基づく emergent な XAI インターフェースの倫理的含意と設計方向を明確にする。

提案手法

  • Baradian の光学(屈折、反射、回折)を通じて包括的な XAI 手法を検討する。
  • モデル、装置、ヒト解釈者が説明を共構成する様子を比較するための数学的定式化と図示表現(表1)を提供する。
  • エージェント実在論と回折を適用して XAI 手法の ontological および epistemological の前提を特定する。
  • emergent な解釈を支援するインターフェースの倫理的含意を論じ、 speculative テキストから音楽へのケーススタディで設計方向を提案する。

実験結果

リサーチクエスチョン

  • RQ1Baradian の光学(屈折、反射、回折)は既存の XAI 手法の前提をどのように照らし出すのか?
  • RQ2説明はモデル内部に事前に存在する実体として理解できるのか、それとも emergent な物質- discursif なパフォーマンスとして理解すべきか?
  • RQ3解釈可能性を関係者と文脈の絡み合いとして位置づけたとき、どのような倫理的・設計的含意が生じるのか?
  • RQ4XAI インターフェースは単一の標準的な説明ではなく、複数の合意された解釈を支援する可能性があるのか?

主な発見

  • XAI 手法はしばしば説明をモデル内の事前存在の実体として扱うが、この批評はエージェント実在論を用いてこれを批判する。
  • 回折/エージェント実在論は、説明が AI、ヒト、データ、文脈の intra-actions から emergent するものであり、モデル内で単に発見されるものではないと示す。
  • Baradian 分析は、特徴付与、サンプルベース、プロービングベース、機構論的、インタラクティブ XAI などの標準的なアプローチの限界と隠れた前提を暴く。
  • XAI の倫理的側面は、責任と explainers の説明責任がモデルや解釈者のみに所在するのではなく、社会技術的構成全体に分散していると再定義される。
  • 本論は emergent で多次元的な解釈を可能にする XAI インターフェースの設計方向を提案し、 speculative なテキストから音楽へのケーススタディで実例を示す。

この論文を読む

Nubintのビューアで原文を開き、読みながら気になる箇所をすぐに質問できます。

Nubintでこの論文を読む

このレビューはAIが論文の原文をもとに作成しました。引用する前に原文をご確認ください。