[論文レビュー] Causal Explanations and XAI

Sander Beckers|arXiv (Cornell University)|Jan 31, 2022

Explainable Artificial Intelligence (XAI)被引用数 13

ひとこと要約

本稿では、因果的説明（十分条件と反事後的説明）を形式的に定義し、構造的因果モデルに根ざした、行動誘導に適した実因果関係の新しい定義を提示する。実因果関係が、行動誘導の文脈において反事後的説明よりもより強固で信頼性の高い説明を提供することを示し、標準の反事後的依存が検出できない状況でも不正な因果的影響を検出できる、実因果関係に基づく新たな公平性基準を提案する。

ABSTRACT

Although standard Machine Learning models are optimized for making predictions about observations, more and more they are used for making predictions about the results of actions. An important goal of Explainable Artificial Intelligence (XAI) is to compensate for this mismatch by offering explanations about the predictions of an ML-model which ensure that they are reliably action-guiding. As action-guiding explanations are causal explanations, the literature on this topic is starting to embrace insights from the literature on causal models. Here I take a step further down this path by formally defining the causal notions of sufficient explanations and counterfactual explanations. I show how these notions relate to (and improve upon) existing work, and motivate their adequacy by illustrating how different explanations are action-guiding under different circumstances. Moreover, this work is the first to offer a formal definition of actual causation that is founded entirely in action-guiding explanations. Although the definitions are motivated by a focus on XAI, the analysis of causal explanation and actual causation applies in general. I also touch upon the significance of this work for fairness in AI by showing how actual causation can be used to improve the idea of path-specific counterfactual fairness.

研究の動機と目的

• 行動誘導の解釈を支援するため、XAIにおける因果的要因としての十分条件説明と反事後的説明を形式的に定式化すること。
• 行動誘導の説明と因果構造に完全に根ざした実因果関係を定義すること。
• 不正な経路に沿った実因果関係に置き換えることで、AIにおける公平性評価を改善すること。
• 後向きの文脈（例：公平性監査）において、反事後的説明よりも実因果関係がより正確で信頼性の高い説明を提供することを示すこと。
• モデルの解釈を超えて、現実世界の行動と公平性に因果関係を統合するための概念的基盤を確立すること。

提案手法

• 外部変数と内生的変数を備えた構造的因果モデル（SCM）を用いて、因果的関係を形式化する。
• 介入によって特定の結果を保証する条件の集合として、十分条件説明を定義する。
• 観測結果を変化させる介入として、反事後的説明を定義する。
• 十分性と反事後的感受性の両条件を満たす因果と結果の関係として、実因果関係を導入する。
• 不正な経路に沿った実因果関係に基づく公平性基準を提案し、因果ネットワーク上の決定的条件として形式化する。
• 反事後的公平性の例にフレームワークを適用し、実因果関係が標準の反事後的説明が失敗する状況でもバイアスを検出できることを示す。

実験結果

リサーチクエスチョン

• RQ1 行動誘導のXAIにおける説明を支援するため、因果的枠組み内で十分条件説明と反事後的説明をどのように形式的に定義できるか。
• RQ2 実因果関係は反事後的説明や十分条件説明とどのように異なり、信頼性の高い行動誘導に適しているのか。
• RQ3 実因果関係をどのように活用することで、既存の反事後的公平性定義を超えてAIにおける公平性評価を改善できるか。
• RQ4 後向きの文脈（例：公平性監査）において、実因果関係が反事後的説明よりも正確な説明をどのように提供するか。
• RQ5 標準の反事後的依存が検出できない状況でも、実因果関係に基づく公平性基準は不正な影響を検出できるか。

主な発見

• 本稿は、行動誘導の説明に完全に根ざした、実因果関係の最初の形式的定義を提供し、単なる反事後的条件や十分条件とは明確に区別する。
• 実因果関係は、文脈に応じて必要かつ十分な原因を特定するため、反事後的説明よりも情報量が多いことが示された。
• 保護変数（例：宗教的関心）が、因果的メカニズムの鎖を通じて否定的な採用結果を引き起こすケースにおいて、標準の反事後的依存が検出できないにもかかわらず、実因果関係はそれが不正であると正しく同定した。
• 不正な経路に沿った実因果関係に基づく提案された公平性基準は、経路特異的反事後的公平性が失敗する状況（例：矛盾する拒否ルールを持つ二値採用モデル）においてもバイアスを検出できる。
• フレームワークは、反事後的公平性が許容しすぎる可能性があることを明らかにした。すなわち、保護変数が不正なメカニズムを通じて結果に因果的に影響を与える場合でも、システムを「公平」と分類してしまうことがある。
• 結果として、反事後的依存に依存するのではなく、実因果関係が公平性評価のより強固で直感的な基盤を提供することが示された。