[论文解读] Provably efficient, succinct, and precise explanations

Guy Blanc, Jane Lange+1 more|arXiv (Cornell University)|Nov 1, 2021

Explainable Artificial Intelligence (XAI)参考文献 35被引用 8

一句话总结

该论文提出了一种模型无关的算法，能够高效地找到简洁且精确的证书——即解释黑箱模型预测结果的小型特征集合——并提供关于其大小和准确性的可证明保证。通过利用局部计算和复杂性理论技术隐式学习决策树，该方法在时间与查询复杂度上达到 poly(d, C(f), 1/ε, 1/δ)，其中 C(f) 是模型的平均证书复杂度。

ABSTRACT

We consider the problem of explaining the predictions of an arbitrary blackbox model $f$: given query access to $f$ and an instance $x$, output a small set of $x$'s features that in conjunction essentially determines $f(x)$. We design an efficient algorithm with provable guarantees on the succinctness and precision of the explanations that it returns. Prior algorithms were either efficient but lacked such guarantees, or achieved such guarantees but were inefficient. We obtain our algorithm via a connection to the problem of {\sl implicitly} learning decision trees. The implicit nature of this learning task allows for efficient algorithms even when the complexity of $f$ necessitates an intractably large surrogate decision tree. We solve the implicit learning problem by bringing together techniques from learning theory, local computation algorithms, and complexity theory. Our approach of "explaining by implicit learning" shares elements of two previously disparate methods for post-hoc explanations, global and local explanations, and we make the case that it enjoys advantages of both.

研究动机与目标

• 解决现有启发式后处理解释方法缺乏可证明保证的问题，这些方法通常返回过大或不精确的特征集合。
• 克服先前精确方法的低效性，这些方法虽能保证简洁性和精确性，但需要指数时间。
• 开发一种模型无关的算法，确保解释质量的效率与理论保证。
• 通过使用隐式学习技术，规避寻找最小证书的已知难解性结果。
• 通过一种新颖的‘隐式学习解释’框架，统一局部与全局解释方法的优势。

提出的方法

• 将解释形式化为证书——在高概率下决定模型预测结果的最小特征子集。
• 引入平均证书复杂度 C(f) 作为黑箱模型 f 的复杂度度量。
• 利用局部计算算法与学习理论，隐式学习 f 的决策树表示，而无需显式构建该树。
• 设计一种证书查找算法，通过基于噪声稳定性属性迭代选择特征，以确保精度与简洁性。
• 利用 Smyth 定理与复杂性理论约化，将决策树复杂度与证书复杂度关联起来。
• 确保查询与时间复杂度在 d、C(f)、1/ε 和 1/δ 上保持多项式级别，从而在完整决策树难以处理的情况下仍具备可扩展性。

实验结果

研究问题

• RQ1 我们能否设计一种高效算法，为任意黑箱模型返回在大小与精度上均具有可证明保证的证书？
• RQ2 在不依赖对模型 f 的结构假设或显式构建决策树的前提下，如何实现此类保证？
• RQ3 隐式学习决策树在多大程度上能够实现高效且准确的后处理解释？
• RQ4 通过使用局部计算与复杂性理论技术，能否克服寻找最小证书的已知不可解性结果？
• RQ5 是否存在一种方法，通过新的理论框架统一局部与全局解释方法的优势？

主要发现

• 所提算法以至少 1−δ 的概率，在均匀随机输入上返回大小为 poly(C(f), 1/ε, 1/δ) 的 ε-误差证书。
• 该算法的时间与查询复杂度被限制在 poly(d, C(f), 1/ε, 1/δ) 范围内，即使完整决策树呈指数级规模，仍具备高效性。
• 该方法优于现有启发式方法（如 Ribeiro 等人的 Anchor 方法），后者在最小证书大小仅为 2 时，仍可能返回大小为 Ω(d) 的证书。
• 通过避免显式枚举，利用隐式学习技术，该方法规避了寻找最小证书的已知难解性结果。
• 理论保证在二值特征与均匀分布的假设下成立，但核心框架可扩展至更一般设置。
• 正式建立了决策树复杂度与证书复杂度之间的联系，表明 C(f) 上限界定了最小可能证书的大小。