[논문 리뷰] Backtracking Counterfactuals

Julius von Kügelgen, Abdirisak Mohamed외 1명|arXiv (Cornell University)|2022. 11. 01.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

이 논문은 구조적 인과 모델(SCM) 내에서 배경 변수(초기 조건)의 최소한의 변화로부터 유도되는 인과 법칙이 그대로 유지되는 배경 추론(counterfactuals)에 대한 첫 번째 일반적인 형식적 의미론을 제안한다. 이는 구조 방정식에 대한 간섭이 아니라 배경 변수의 변화에 기반한 인과적 결과를 설명한다. 논문은 세계 유사성(유사도)을 형식화하기 위해 배경 추론 조건부를 도입하고, 이가 진단적 추론, 근본 원인 분석, 공정성 평가에 특히 적합함을 보여준다. 이는 기존의 간섭 중심 추론과 상호보완적인 대안을 제공한다.

ABSTRACT

Counterfactual reasoning -- envisioning hypothetical scenarios, or possible worlds, where some circumstances are different from what (f)actually occurred (counter-to-fact) -- is ubiquitous in human cognition. Conventionally, counterfactually-altered circumstances have been treated as "small miracles" that locally violate the laws of nature while sharing the same initial conditions. In Pearl's structural causal model (SCM) framework this is made mathematically rigorous via interventions that modify the causal laws while the values of exogenous variables are shared. In recent years, however, this purely interventionist account of counterfactuals has increasingly come under scrutiny from both philosophers and psychologists. Instead, they suggest a backtracking account of counterfactuals, according to which the causal laws remain unchanged in the counterfactual world; differences to the factual world are instead "backtracked" to altered initial conditions (exogenous variables). In the present work, we explore and formalise this alternative mode of counterfactual reasoning within the SCM framework. Despite ample evidence that humans backtrack, the present work constitutes, to the best of our knowledge, the first general account and algorithmisation of backtracking counterfactuals. We discuss our backtracking semantics in the context of related literature and draw connections to recent developments in explainable artificial intelligence (XAI).

연구 동기 및 목표

• 구조적 인과 모델(SCM) 프레임워크 내에서 인과 법칙이 그대로 유지되고 차이가 초깃값의 변화에서 비롯되는 배경 추론 인과 모델을 형식화하기 위해.
• 인간 인지 및 심리적 추론에서 관찰되는 바와 같이, 배경 추론 인과 모델에 대한 일반적인 형식적 의미론의 부재를 해결하기 위해.
• 간섭 중심 인과 모델과 상호보완적인 형식적 프레임워크를 제공함으로써, 간섭이 비합리적이거나 비현실적이거나 인간의 판단과 일치하지 않는 맥락에서 특히 유용한 프레임워크를 제공하기 위해.
• 해석 가능한 인공지능(XAI)의 응용, 예를 들어 근본 원인 분석 및 인과적 공정성 평가에서 인간의 진단 직관과 더 잘 부합하는 배경 추론을 가능하게 하기 위해.
• 사실 세계와 가짜 세계 간의 유사성을 형식화하는 배경 추론 조건부를 도입하여, 배경 변수에 대한 맥락에 민감하고 최소한의 변화를 가능하게 하기 위해.

제안 방법

• 기존의 구조 방정식을 유지하면서 배경 변수를 사전 분포에서 재표본 추출하는 방식으로 가짜 세계를 모델링하는 새로운 배경 추론 조건부 $ P_B(\textbf{U}^* | \textbf{U}) = P(\textbf{U}^*) $ 를 도입한다.
• 구조 모델 M은 유지되지만 배경 조건 $ \textbf{u}^* $ 가 사실 조건 $ \textbf{u} $ 와 다를 때의 가짜 세계 $ w_B^* = (\text{M}, \textbf{u}^*) $ 를 정의한다. 이때 최소한의 변화가 선호된다.
• 세계 간의 유사성 측도를 사용하여 배경 추론 조건부를 정의함으로써, 도메인 가정을 반영하는 맥락 특화 설계 선택이 가능해진다.
• 가짜 세계에서의 인과적 확률을 $ P_B(\tau(y^*) \geq \tau(y) \mid \textbf{U}_S^* = \textbf{u}_S, \textbf{U} = \textbf{u}) $ 로 형식화하여 이상치 사건에 기여하는 정도를 정량화할 수 있도록 한다.
• 기존 XAI 방법(예: 셰플리-값 기반 기여도 평가 및 구조 유지 간섭)과 배경 추론을 통합하여, 인과 메커니즘을 변경하지 않고도 변수 기여도를 평가할 수 있도록 한다.
• 동일한 SCM 내에서 배경 추론과 간섭 중심 추론을 모두 수용할 수 있는 통합 프레임워크를 제안함으로써, 진단적 및 간섭적 작업에 대한 다양한 추론이 가능하도록 한다.

실험 결과

연구 질문

• RQ1 구조적 인과 모델(SCM) 프레임워크 내에서 인과 법칙이 그대로 유지되고 초깃값이 변화하는 배경 추론 인과 모델을 어떻게 체계적으로 정의할 수 있는가?
• RQ2 배경 변수에 대한 최소한의 변화를 포함하는 맥락에 민감한 변화를 가능하게 하기 위해, 사실 세계와 가짜 세계 간의 적절한 유사성 개념은 무엇인가?
• RQ3 진단적 또는 공정성 관련 작업과 같은 맥락에서, 배경 추론 인과 모델이 간섭 중심 인과 모델보다 뛰어난 이유는 무엇인가?
• RQ4 배경 추론 인과 모델은 기존의 설명 가능한 인공지능(XAI) 방법, 예를 들어 근본 원인 분석 및 인과적 공정성 평가에 어떻게 통합될 수 있는가?
• RQ5 동일한 SCM 내에서 배경 추론과 간섭 중심 인과 모델을 상호보완적인 추론 방식으로 다룰 수 있는 통합 프레임워크를 개발할 수 있는가?

주요 결과

• 논문은 SCM 내에서 배경 추론 인과 모델에 대한 첫 번째 일반적인 형식적 의미론을 제공한다. 이는 오랫동안 인간 인지에서 관찰되어 온 추론 방식이지만, 이전에는 엄밀한 기반 없이 존재하였다.
• 배경 추론 인과 모델은 인과 법칙을 유지하면서 배경 변수를 변화시킴으로써 이상치 사건의 근본 원인을 식별하는 데 특히 효과적임을 입증한다.
• 이 방법은 간섭이 비합리적이거나 비현실적인 맥락, 예를 들어 인종이나 성별과 같이 변경 불가능한 속성을 포함하는 공정성 분 析에서 인과 기여도를 평가할 수 있도록 한다.
• 배경 추론 조건부 $ P_B(\textbf{U}^* | \textbf{U}) = P(\textbf{U}^*) $ 는 원인 메커니즘을 변경하지 않으면서도 원칙적이고 최소한의 初기 조건 변화를 가능하게 하여, '가장 가까운 가능한 세계' 개념을 형식화한다.
• 이 프레임워크는 XAI의 응용을 지원하며, 재표본 추출된 배경 변수 하에서의 가짜 세계 확률을 통해 극단적 결과에 기여하는 변수의 기여도를 정량화할 수 있다.
• 이 연구는 배경 추론 인과 모델이 인과적 구조를 규명하는 데는 적합하지 않지만, 진단 및 기여도 평가 작업에서는 매우 효과적임을 입증하며, 간섭 중심 인과 모델과 상호보완적인 대안을 제공한다.