[论文解读] On Explaining Decision Trees

Yacine Izza, Alexey Ignatiev+1 more|arXiv (Cornell University)|Oct 21, 2020

Explainable Artificial Intelligence (XAI)参考文献 70被引用 44

一句话总结

本文表明决策树在解释性方面可能不如 PI-explanations（subset-minimal feature-value sets），并提供了在多项式时间内计算单个 PI-explanation 的方法，以及用于枚举 DT 的 PI-explanations 的命中集合方法；实验显示许多 DT 路径具有解释冗余性。

ABSTRACT

Decision trees (DTs) epitomize what have become to be known as interpretable machine learning (ML) models. This is informally motivated by paths in DTs being often much smaller than the total number of features. This paper shows that in some settings DTs can hardly be deemed interpretable, with paths in a DT being arbitrarily larger than a PI-explanation, i.e. a subset-minimal set of feature values that entails the prediction. As a result, the paper proposes a novel model for computing PI-explanations of DTs, which enables computing one PI-explanation in polynomial time. Moreover, it is shown that enumeration of PI-explanations can be reduced to the enumeration of minimal hitting sets. Experimental results were obtained on a wide range of publicly available datasets with well-known DT-learning tools, and confirm that in most cases DTs have paths that are proper supersets of PI-explanations.

研究动机与目标

• 证明某些决策树包含相较于最小 PI-explanations 更大的解释冗余路径。
• 引入在给定 DT 的一个实例上计算单个 PI-explanation 的多项式时间方法。
• 通过最小命中集(MHSes)将 DT 的 PI-explanation 枚举化。
• 提供在标准 DT 学习工具上关于 DT 路径常常超出最小解释的经验证据。

提出的方法

• 将 PI-explanations 定义为对预测具有子集最小性的文字描述（literals）。
• 提出一个在给定实例的 DT 中计算一个 PI-explanation 的多项式时间算法。
• 将 PI-explanation 枚举化简化为枚举最小命中集，并通过迭代 NP-oracle 调用（如 SAT/ILP）求解。
• 开发一个线性时间算法，通过检查在不改变预测的前提下是否可以删掉一个文字描述来决定解释冗余性。
• 区分路径受限的 PI-explanations 与路径不限的 PI-explanations。
• 给出用于冗余分析的算法（算法1和算法2），以及用于通过子集命中集枚举 PI-explanations 的类似算法3 的方法论。

实验结果

研究问题

• RQ1 决策树路径是否提供相对于最小 PI-explanations 的解释时存在冗余？
• RQ2 我们是否能够高效地（多项式时间）为 DT 计算单个 PI-explanation，并通过命中集合枚举所有 PI-explanations？
• RQ3 在公开数据集中 DT 路径包含比解释所需的文字更多的情形有多频繁？
• RQ4 在实际应用中，路径受限与路径不限定的 PI-explanations 的影响有多大？

主要发现

• 存在布尔函数，其中不可约 DT 包含的路径是 PI-explanations 的真子集的超集，且差异会随着特征数量的增加而增大。
• 经验结果表明，许多学习到的 DT 具有解释冗余路径；对于给定预测，通常一个常数规模的 PI-explanation 就足够。
• 一个多项式时间的算法可以从给定 DT 路径计算出单个 PI-explanation。
• PI-explanations 的枚举可以简化为枚举最小命中集；作者提出基于迭代 NP oracle 调用的求解方案。
• 在实证中，解释冗余在跨数据集和 DT 学习工具（IAI 与 ITI）中普遍存在，提取 PI-explanations 的运行时间在可接受范围内。