[论文解读] DALEX: explainers for complex predictive models

Przemysław Biecek|arXiv (Cornell University)|Jun 23, 2018

Explainable Artificial Intelligence (XAI)参考文献 11被引用 15

一句话总结

本文提出 DALEX，一种用于在 R 中使用统一的模型探索语法解释复杂预测模型的模型无关框架。它提供局部和全局解释器——如 Ceteris Paribus 图、Break Down 图和排列重要性——以实现对单个预测、变量重要性及模型性能的解释，并支持在主流机器学习框架之间进行模型比较和可视化。

ABSTRACT

Predictive modeling is invaded by elastic, yet complex methods such as neural networks or ensembles (model stacking, boosting or bagging). Such methods are usually described by a large number of parameters or hyper parameters - a price that one needs to pay for elasticity. The very number of parameters makes models hard to understand. This paper describes a consistent collection of explainers for predictive models, a.k.a. black boxes. Each explainer is a technique for exploration of a black box model. Presented approaches are model-agnostic, what means that they extract useful information from any predictive method despite its internal structure. Each explainer is linked with a specific aspect of a model. Some are useful in decomposing predictions, some serve better in understanding performance, while others are useful in understanding importance and conditional responses of a particular variable. Every explainer presented in this paper works for a single model or for a collection of models. In the latter case, models can be compared against each other. Such comparison helps to find strengths and weaknesses of different approaches and gives additional possibilities for model validation. Presented explainers are implemented in the DALEX package for R. They are based on a uniform standardized grammar of model exploration which may be easily extended. The current implementation supports the most popular frameworks for classification and regression.

研究动机与目标

• 解决诸如随机森林和梯度提升机等复杂高精度预测模型的可解释性挑战。
• 开发一种一致且可扩展的框架，用于解释黑箱模型，而无需依赖其内部结构。
• 通过系统化的解释工具支持模型验证、领域知识整合，并识别偏差或性能差距。
• 实现多个模型在相同可解释性尺度上的比较，促进模型选择与改进。
• 提供统一且标准化的模型探索语法，支持对模型行为的数值、可视化和对比分析。

提出的方法

• 提出一种模型无关的可解释性方法，适用于任何预测模型，无论其内部架构如何。
• 引入一系列解释器，包括用于局部预测稳定性的 Ceteris Paribus 图、用于变量归因的 Break Down 圖，以及用于全局特征相关性的排列重要性。
• 采用标准化的模型探索语法，统一数值摘要、可视化和模型比较。
• 在 Ceteris Paribus 圖中使用分位数转换进行归一化，以实现在同一尺度上对不同变量进行比较。
• 通过在多个模型之间对齐解释器，支持模型比较，从而可直接评估各模型的优势与劣势。
• 在开源的 DALEX R 包中实现所有解释器，兼容主要框架如 caret、mlr、randomForest 和 xgboost。

实验结果

研究问题

• RQ1 如何在不依赖其内部结构的前提下，使复杂高精度预测模型具备可解释性？
• RQ2 哪些技术能够将单个预测分解为输入变量的贡献，从而实现局部解释？
• RQ3 如何可视化并比较不同模型之间的全局模型行为（如变量重要性和条件响应）？
• RQ4 模型解释器在哪些方面可支持领域验证、模型改进以及隐藏偏差或性能下降的检测？
• RQ5 如何设计一种一致且可扩展的模型探索语法，以统一多样化的解释技术？

主要发现

• DALEX 框架通过一致且模型无关的语法，成功实现了对任意预测模型的局部和全局解释。
• Ceteris Paribus 图显示，在给定公寓的预测中，变量 'surface' 对模型预测的影响最大，而 'construction year' 的影响最小。
• Break Down 圖显示，在线性模型和随机森林模型中，'district = Srodmiescie' 对预测值的提升贡献最大。
• 与线性模型相比，随机森林模型对 'surface' 的预测表现出更强的负向影响，凸显了模型特异性行为。
• 基于排列的变量重要性通过测量变量被随机打乱时预测的变化来识别最具影响力的变量，间隔越长表示重要性越高。
• 通过共享解释器进行模型比较，可直接评估性能差异和不同竞争模型的结构洞察。