Skip to main content
QUICK REVIEW

[논문 리뷰] Emergent, not Immanent: A Baradian Reading of Explainable AI

Fabio Morreale, Joan Serrà|arXiv (Cornell University)|2026. 01. 21.
Explainable Artificial Intelligence (XAI)Computer Science인용 수 0
한 줄 요약

이 논문은 Barad의 에이전시적 실재론과 회절을 XAI에 적용하여 설명을 모델 자체 내에 존재하는 것이 아니라 모델, 해석자, 데이터 및 맥락 간의 얽힘에서 등장하는 물질-담론적 퍼포먼스로 재구성한다.

ABSTRACT

Explainable AI (XAI) is frequently positioned as a technical problem of revealing the inner workings of an AI model. This position is affected by unexamined onto-epistemological assumptions: meaning is treated as immanent to the model, the explainer is positioned outside the system, and a causal structure is presumed recoverable through computational techniques. In this paper, we draw on Barad's agential realism to develop an alternative onto-epistemology of XAI. We propose that interpretations are material-discursive performances that emerge from situated entanglements of the AI model with humans, context, and the interpretative apparatus. To develop this position, we read a comprehensive set of XAI methods through agential realism and reveal the assumptions and limitations that underpin several of these methods. We then articulate the framework's ethical dimension and propose design directions for XAI interfaces that support emergent interpretation, using a speculative text-to-music interface as a case study.

연구 동기 및 목표

  • 설명이 AI 모델 내부에 존재하기만 하다 발견되기를 기다리는 아이디어에 도전한다.
  • 해석가능성을 모델, 인간, 데이터 및 맥락 간의 내적 작용을 통해 만들어지는 물질-담론적 퍼포먼스로 재구성한다.
  • 통찰력과 한계를 밝히기 위해 에이전시적 실재론과 회절을 통해 일반적인 XAI 방법을 비판적으로 평가한다.
  • Baradian 관점에서 Emergent XAI 인터페이스의 윤리적 함의와 설계 방향을 제시한다.

제안 방법

  • Baradian 광학(굴절, 반사, 회절)을 통해 광범위한 XAI 방법을 검토한다.
  • 모델, 기구, 인간 해석자가 설명을 공동구성하는 방식을 비교하기 위한 수학적 형식화와 도해 표현(표 1)을 제공한다.
  • 에이전시적 실재론과 회절을 적용하여 XAI 방법 뒤의 존재론적 및 인식론적 약속을 식별한다.
  • Emergent 해석을 지원하는 인터페이스의 윤리적 함의를 논의하고, 텍스트-음악 예측 사례 연구를 통해 구체적 설계 방향을 제시한다.

실험 결과

연구 질문

  • RQ1Baradian 광학(굴절, 반사, 회절)은 기존 XAI 방법의 가정들을 어떻게 밝히는가?
  • RQ2설명이 미리 존재하는 모델에 포함된 엔티티가 아니라 Emergent 물질-담론적 퍼포먼스로 이해될 수 있는가?
  • RQ3해석가능성이 배우와 맥락 사이의 얽힘으로 프레이밍될 때 어떤 윤리적 및 설계적 함의가 제기되는가?
  • RQ4XAI 인터페이스는 단일 표준 설명이 아닌 다수의 협상된 해석을 어떻게 지원할 수 있는가?

주요 결과

  • XAI 방법은 종종 설명을 모델 내부에 미리 존재하는 엔티티로 다루는데, 이 관점을 에이전시적 실재론으로 비판할 때 도전된다.
  • 회절/에이전시적 실재론은 설명이 AI, 인간, 데이터 및 맥락 간의 내적 작용에서 Emergent함을 보여주며, 단순히 모델 내부에서 발견되는 것이 아님을 드러낸다.
  • 바라디언 분석은 특징 속성화, 샘플 기반, 프로빙 기반, 기계적, 인터랙티브 XAI 등 표준 XAI 접근법의 한계와 숨겨진 약속들을 밝힌다.
  • XAI의 윤리적 차원은 모델이나 설명자에만 국한되지 않고 사회기술적 구성에 분산된 책임과 책무로 재구성된다.
  • emergent 다차원 해석을 가능하게 하는 XAI 인터페이스 설계 방향을 제안하며, 이를 텍스트-음악 예시 연구로 시사한다.

이 논문 읽기

누빈트 뷰어에서 원문을 열고, 읽으면서 궁금한 곳을 바로 물어보세요.

누빈트에서 이 논문 읽기

이 리뷰는 AI가 논문 원문을 바탕으로 만들었습니다. 인용하기 전에 원문을 확인해 주세요.