[論文レビュー] Backtracking Counterfactuals

Julius von Kügelgen, Abdirisak Mohamed+1 more|arXiv (Cornell University)|Nov 1, 2022

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

この論文は、構造的因果モデル（SCM）において、構造方程式の介入ではなく、外生変数（初期条件）への最小限の変更から生じる背後因果的仮説的推論のための、初めての一般形式的意味論を提示する。背後因果的仮説的推論は世界の類似性を形式化するためのバックトラッキング条件付きを導入し、診断的推論、根本原因分析、公平性評価に特に適していることが示され、標準の介入的仮説的推論とは補完的な代替手段を提供する。

ABSTRACT

Counterfactual reasoning -- envisioning hypothetical scenarios, or possible worlds, where some circumstances are different from what (f)actually occurred (counter-to-fact) -- is ubiquitous in human cognition. Conventionally, counterfactually-altered circumstances have been treated as "small miracles" that locally violate the laws of nature while sharing the same initial conditions. In Pearl's structural causal model (SCM) framework this is made mathematically rigorous via interventions that modify the causal laws while the values of exogenous variables are shared. In recent years, however, this purely interventionist account of counterfactuals has increasingly come under scrutiny from both philosophers and psychologists. Instead, they suggest a backtracking account of counterfactuals, according to which the causal laws remain unchanged in the counterfactual world; differences to the factual world are instead "backtracked" to altered initial conditions (exogenous variables). In the present work, we explore and formalise this alternative mode of counterfactual reasoning within the SCM framework. Despite ample evidence that humans backtrack, the present work constitutes, to the best of our knowledge, the first general account and algorithmisation of backtracking counterfactuals. We discuss our backtracking semantics in the context of related literature and draw connections to recent developments in explainable artificial intelligence (XAI).

研究の動機と目的

• 因果法則が変化せず、初期条件の変化に起因するバックトラッキング仮説的推論を構造的因果モデル（SCM）フレームワーク内で形式化すること。
• 人間の認知および心理的推論で観察されるが、これまで一般形式的意味論が欠如していたバックトラッキング仮説的推論に対する形式的意味論の欠如を解消すること。
• 介入的仮説的推論とは補完的であるが、介入が整合的でない、実行不可能である、または人間の判断と矛盾する文脈において特に有効である形式的枠組みを提供すること。
• 説明可能なAI（XAI）における応用、特に根本原因分析や因果的公平性評価を可能にし、バックトラッキング推論が人間の診断的直感とより一致することを目的とする。
• 事実世界と仮説的推論世界の類似性を形式化するバックトラッキング条件付きを導入し、外生変数への文脈に応じた最小限の変更を可能にする。

提案手法

• 構造方程式を変更せずに外生変数を事前分布から再サンプリングすることで仮説的推論世界をモデル化する、新しいバックトラッキング条件付き $ P_B(\textbf{U}^* | \textbf{U}) = P(\textbf{U}^*) $ を導入する。
• 構造的モデル $ \text{M} $ を保持するが、背景条件 $ \textbf{u}^* $ が事実の $ \textbf{u} $ とは異なるバックトラッキング仮説的推論世界 $ w_B^* = (\text{M}, \textbf{u}^*) $ を定義する。最小限の変更が好ましい。
• 世界間の類似性測度を用いてバックトラッキング条件付きを定義し、ドメインの仮定を反映する文脈特有の設計選択を可能にする。
• 仮説的推論確率を $ P_B(\tau(y^*) \geq \tau(y) \mid \textbf{U}_S^* = \textbf{u}_S, \textbf{U} = \textbf{u}) $ として形式化し、極端な出来事への寄与度を定量化可能にする。
• シャープリー値に基づく帰属割り当てや構造を保存する介入と同様の既存のXAI手法と統合し、因果メカニズムを変更せずに変数の寄与度を評価する。
• 同じSCM内でバックトラッキングおよび介入的仮説的推論を統合する包括的枠組みを提案し、診断的および介入的タスクにおける柔軟な推論を可能にする。

実験結果

リサーチクエスチョン

• RQ1 因果法則が固定され、初期条件が変更されるバックトラッキング仮説的推論が、構造的因果モデル（SCM）フレームワーク内でどのように形式的に定義できるか。
• RQ2 外生変数への最小限で文脈に応じた変更を可能にするために、事実世界と仮説的推論世界の間の適切な類似性の概念は何か。
• RQ3 診断的または公平性関連のタスクにおいて、バックトラッキング仮説的推論が介入的仮説的推論を上回る推論文脈は何か。
• RQ4 バックトラッキング仮説的推論を、根本原因分析や因果的公平性評価のような既存の説明可能なAI（XAI）手法にどのように統合できるか。
• RQ5 同じSCM内でバックトラッキングおよび介入的仮説的推論を補完的推論モードとして扱える包括的枠組みを構築できるか。

主な発見

• 本論文は、構造的因果モデル（SCM）におけるバックトラッキング仮説的推論の最初の一般形式的意味論を提供し、人間の認知で長年にわたり観察されてきたが、これまで厳密な根拠が欠けていた推論様式を形式化した。
• バックトラッキング仮説的推論は、構造方程式を保持したまま外生変数を変化させることで、極端な出来事の根本原因を特定する診断的推論において特に効果的であることが示された。
• 本手法は、介入が整合的でない、または実行不可能な状況（例：人種や性別といった不変属性を含む公平性分析）においても因果的帰属を可能にする。
• バックトラッキング条件付き $ P_B(\textbf{U}^* | \textbf{U}) = P(\textbf{U}^*) $ は、因果メカニズムを変更せずに、原理的かつ最小限の初期条件への摂動を可能にし、「最も近い可能世界」の概念を形式化する。
• 本フレームワークはXAIへの応用を支援し、再サンプリングされた外生変数下での仮説的推論確率を用いて、極端な結果への変数の寄与度を定量化可能である。
• 本研究は、バックトラッキング仮説的推論が因果構造の同定には適さないが、診断的および帰属タスクにおいて非常に効果的であり、介入的仮説的推論とは補完的な代替手段であると示した。