[論文レビュー] A unified logical framework for explanations in classifier systems

Xinghan Liu, Emiliano Lorini|arXiv (Cornell University)|May 30, 2021

Explainable Artificial Intelligence (XAI)被引用数 4

ひとこと要約

この論文は、二値分類器の意思決定を説明するための統一的モーダル論理フレームワークを導入し、帰納的、対照的、反事後的説明およびバイアスの形式的定式化を可能にする。2つの証明系の完全性を確立し、無限変数の場合には充足可能性がNEXPTIME完全であり、有限変数の場合には多項式時間であることを証明し、モデルの更新と不確実性の表現のための動的および知識論的演算子を論理に拡張する。

ABSTRACT

Recent years have witnessed a renewed interest in Boolean function in explaining binary classifiers in the field of explainable AI (XAI). The standard approach of Boolean function is propositional logic. We present a modal language of a ceteris paribus nature which supports reasoning about binary input classifiers and their properties. We study a family of classifier models, axiomatize it as two proof systems regarding the cardinality of the language and show completeness of our axiomatics. Moreover, we prove that satisfiability checking problem for our modal language is NEXPTIME-complete in the infinite-variable case, while it becomes polynomial in the finite-variable case. We furthermore identify an interesting NP fragment of our language in the infinite-variable case. We leverage the language to formalize counterfactual conditional as well as a variety of notions of explanation including abductive, contrastive and counterfactual explanations, and biases. Finally, we present two extensions of our language: a dynamic extension by the notion of assignment enabling classifier change and an epistemic extension in which the classifier's uncertainty about the actual input can be represented.

研究の動機と目的

• 説明可能AI（XAI）における統一的フレームワークの欠如に応じ、二値分類器システムが下す意思決定の形式的・論理的基盤を提供すること。
• 帰納的、対照的、反事後的、バイアス関連の説明タイプを、1つのモーダル論理フレームワーク内で形式化すること。
• 提案された論理の証明系を確立し、2つの異なる言語の濃度（有限および無限変数）に対してその完全性を証明すること。
• 提案されたモーダル言語における充足可能性チェックの計算複雑性を分析し、変数の有限性に応じた違いを明らかにすること。
• 分類器の更新と入力に関する不確実性の表現のため、動的および知識論的演算子を論理に拡張すること。

提案手法

• 分類器モデル（CMs）上でKripke的意味論に基づくモーダル言語を提案し、世界が入力インスタンスを表し、到達可能性関係が摂動（特徴値の変更）を符号化する。
• 主要なモーダル演算子を定義：$[\text{Atm}]\theta$ は「Atm に属するすべての原子を摂動した後、θ が成立する」ことを意味し、$\text{closest}_C(s, \theta, X)$ は摂動集合の下での最も近い世界を捉える。
• 説明タイプの形式的定義を導入：帰納的説明（$\mathsf{AXp}$）は出力を含意する最小の項として定義され、対照的説明（$\mathsf{CXp}$）は反事後的条件として定義され、バイアス検出（$\mathsf{Bias}$）は摂動下での不変性の失敗によって定義される。
• 有限変数および無限変数の断片のための2つの証明系を構築し、意味論に対して両方の完全性を証明する。
• 分類器の不確実性を表現するための知識論的拡張 $\mathcal{L}^{\mathit{epi}}$ を導入し、分類器の更新をモデル化するための代入演算子付きの動的拡張を提示する。
• モデル検査および有界モデル構築を用いて、充足可能性が有限変数の場合に多項式時間で決定可能であり、無限変数の場合にNEXPTIME完全であることを示す。

実験結果

リサーチクエスチョン

• RQ1 1つのモーダル論理フレームワークが、二値分類器システムにおける多様な説明タイプの形式的定式化を統一できるか？
• RQ2 提案された論理の証明論的およびモデル論的性質は何か？また、証明系は完全性を満たすか？
• RQ3 提案されたモーダル言語における充足可能性チェックの計算複雑性は何か？変数の有限性に応じてどのように変化するか？
• RQ4 論理は反事後的推論を表現でき、分類器の意思決定におけるバイアスを検出できるか？
• RQ5 論理は分類器の更新と入力に関する不確実性をモデル化するためにどのように拡張できるか？

主な発見

• 提案されたモーダル論理フレームワークは、帰納的、対照的、反事後的、バイアス関連の説明を、1つの論理的システム内で成功裏に統一的に形式化した。
• 論理は2つの証明系（有限変数および無限変数の場合）で公理化されており、両方とも意味論に対して健全かつ完全であることが証明された。
• 充足可能性チェックは、無限変数の場合にNEXPTIME完全であり、有限変数の場合に多項式時間で決定可能である。
• 無限変数の場合にNP完全な断片が同定され、多数の論理式に対して効率的な推論が可能になった。
• 知識論的拡張により分類器の不確実性のモデル化が可能となり、動的拡張により代入演算子を用いた分類器の変更に関する推論が可能になった。
• フレームワークは主要な説明概念を正当化する：例えば、$\mathsf{CXp}(\lambda, c)$ は、$\lambda$ の原子を摂動すると出力 $c$ が異なる結果になるという反事後的条件と論理的に同値である。