[論文レビュー] On the Explanatory Power of Decision Trees

Gilles Audemard, Steve Bellart+4 more|arXiv (Cornell University)|Aug 11, 2021

Explainable Artificial Intelligence (XAI)参考文献 34被引用数 4

ひとこと要約

本稿はブール論理の意思決定木の説明力について調査し、最小十分理由は指数的に多数にのぼり、列挙が困難である一方で、説明の要となる関連および必須特徴は多項式時間で計算可能であることを示している。対照的説明は、逆に計算が容易であり、最小化および数え上げも可能であり、感受性の高いAI応用における解釈可能性においてより実用的である。

ABSTRACT

Decision trees have long been recognized as models of choice in sensitive applications where interpretability is of paramount importance. In this paper, we examine the computational ability of Boolean decision trees in deriving, minimizing, and counting sufficient reasons and contrastive explanations. We prove that the set of all sufficient reasons of minimal size for an instance given a decision tree can be exponentially larger than the size of the input (the instance and the decision tree). Therefore, generating the full set of sufficient reasons can be out of reach. In addition, computing a single sufficient reason does not prove enough in general; indeed, two sufficient reasons for the same instance may differ on many features. To deal with this issue and generate synthetic views of the set of all sufficient reasons, we introduce the notions of relevant features and of necessary features that characterize the (possibly negated) features appearing in at least one or in every sufficient reason, and we show that they can be computed in polynomial time. We also introduce the notion of explanatory importance, that indicates how frequent each (possibly negated) feature is in the set of all sufficient reasons. We show how the explanatory importance of a feature and the number of sufficient reasons can be obtained via a model counting operation, which turns out to be practical in many cases. We also explain how to enumerate sufficient reasons of minimal size. We finally show that, unlike sufficient reasons, the set of all contrastive explanations for an instance given a decision tree can be derived, minimized and counted in polynomial time.

研究の動機と目的

• ブール意思決定木における十分理由および対照的説明の導出、最小化、数え上げの計算複雑性を分析すること。
• 最小十分理由の完全な集合が指数的に巨大であるため、実際には列挙が不可能であるという課題に対処すること。
• 関連および必須特徴を用いたスケーラブルな合成表現を用いて十分理由のセットを要約し、解釈可能なモデル解析を可能にすること。
• 実世界のデータセットにおける説明的重要度、必須／関連特徴、対照的説明の計算アルゴリズムの実用的効率を評価すること。

提案手法

• 関連特徴（少なくとも1つの十分理由に現れる特徴）および必須特徴（すべての十分理由に現れる特徴）の概念を導入し、これらは多項式時間で計算可能である。
• モデルカウンティングに基づくアプローチを提案し、各特徴のすべての十分理由における頻度（説明的重要度）を計算する。
• 最小十分理由をすべて列挙する効率的なアルゴリズムを開発し、大きな集合に対応するための設定可能な上限を導入する。
• 意思決定木の構造を活用してパスベースの推論により対照的説明を導出し、多項式時間での計算を可能にする。
• グリーディーなアルゴリズムを用いて1つの十分理由を計算し、実際にはしばしば最小十分理由を生成することが観察された。
• 論理的推論とモデルカウンティングを組み合わせたハイブリッド手法を採用し、最大1000件のインスタンスを含む実世界のデータセットへのスケーラビリティを実現した。

実験結果

リサーチクエスチョン

• RQ1 意思決定木におけるあるインスタンスの最小十分理由の完全な集合を効率的に計算できるか。そのスケーラビリティの限界は何か。
• RQ2 十分理由の数が指数的である可能性を鑑み、すべてを列挙せずにそのセットを要約する方法は何か。
• RQ3 意思決定木における対照的説明の導出の計算複雑性は何か。十分理由のそれと比べてどうか。
• RQ4 説明的特徴（関連および必須特徴）は、十分理由の完全な集合をコンパクトかつ意味的に意味のある形で表現できるか。
• RQ5 提案されたアルゴリズムは実際のところ、複雑な特徴空間を持つ実世界のデータセットにおいてどれほど効率的か。

主な発見

• 意思決定木におけるあるインスタンスの最小十分理由の集合は、入力サイズに対して指数的に巨大になることがあり、実際には完全な列挙は不可能である。
• 十分理由の数は非常に多く、一部のデータセットでは中央値が100以上に達し、一部のケースでは1インスタンスあたり10,000を超える理由が存在する。
• 必須特徴の数は関連特徴の数よりも著しく少ないため、十分理由の数が多大に増える背景が説明できる。
• 十分理由を計算するためのグリーディーなアルゴリズムは、実際にはしばしば最小十分理由を生成するため、実用的価値があると考えられる。
• 対照的説明は多項式時間で計算可能であり、最小化および数え上げも可能であり、十分理由よりもスケーラブルである。
• 90のデータセットのうち87つにおいて、十分理由の数え上げと説明的重要度の計算に平均1秒未満で完了しており、理論的困難さがある場合でも実用的効率性が裏付けられた。