[论文解读] Supervised Local Modeling for Interpretability.

Gregory Plumb, Denali Molitor+1 more|arXiv (Cornell University)|Jul 9, 2018

Explainable Artificial Intelligence (XAI)参考文献 14被引用 3

一句话总结

SLIM 是一种新颖的可解释机器学习模型，通过结合局部线性建模与随机森林的双重解释视角，实现了高精度预测，同时提供忠实、多层级的解释。它在保持高预测准确性的同时，提供基于实例的局部解释和全局解释，有效解决了准确率与可解释性之间的权衡问题。

ABSTRACT

Model interpretability is an increasingly important component of practical machine learning. Some of the most common forms of interpretability systems are example-based, local, and global explanations. One of the main challenges in interpretability is designing explanation systems that can capture aspects of each of these explanation types, in order to develop a more thorough understanding of the model. We address this challenge in a novel model called SLIM that uses local linear modeling techniques along with a dual interpretation of random forests (both as a supervised neighborhood approach and as a feature selection method). SLIM has two fundamental advantages over existing interpretability systems. First, while it is effective as a black-box explanation system, SLIM itself is a highly accurate predictive model that provides faithful self explanations, and thus sidesteps the typical accuracy-interpretability trade-off. Second, SLIM provides both example- based and local explanations and can detect global patterns, which allows it to diagnose limitations in its local explanations.

研究动机与目标

• 为解决创建可解释机器学习模型的挑战，即在不牺牲预测准确性的前提下整合多种解释类型——基于实例的解释、局部解释和全局解释。
• 通过设计一个既高度准确又自解释的模型，克服模型准确率与可解释性之间的常见权衡。
• 通过检测数据中潜在的全局模式，实现对局部解释局限性的诊断。
• 将随机森林的两种视角——邻域选择与特征选择——统一为一个连贯的可解释性框架。

提出的方法

• SLIM 采用局部线性建模，通过在预测实例的邻域内拟合线性模型，生成局部解释。
• 它将随机森林用作监督邻域选择机制和特征选择方法，以识别用于局部解释的相关特征。
• 该模型利用随机森林的接近度结构，为输入实例定义局部邻域，从而实现局部化解释。
• 通过随机森林导出的变量重要性评分执行特征选择，用于约束局部线性模型。
• SLIM 将这些组件整合为单一预测模型，在保持高准确率的同时提供忠实且可解释的输出。
• 随机森林的双重使用使 SLIM 能够检测特征重要性和数据结构中的全局模式，从而增强局部解释的一致性与可靠性。

实验结果

研究问题

• RQ1 是否能够通过单一模型同时实现高精度预测、局部解释和全局洞察，而不会影响性能？
• RQ2 如何将随机森林同时用作邻域选择方法和特征选择机制，以提升可解释性？
• RQ3 在检测到潜在全局模式的前提下，局部解释在多大程度上可被诊断为具有一致性和可靠性？
• RQ4 将局部线性建模与随机森林相结合，是否能相比现有方法提供更忠实、更准确的解释？

主要发现

• SLIM 在实现高预测准确率的同时，提供忠实的自解释，有效消除了典型的准确率-可解释性权衡。
• 该模型同时提供基于实例和局部解释，使用户能够结合上下文理解单个预测。
• SLIM 能够检测特征重要性和数据结构中的全局模式，有助于诊断局部解释中潜在的局限性。
• 通过将局部线性建模与随机森林的双重解释视角相结合，SLIM 构建了一个统一的框架，支持多层级可解释性。
• 将随机森林同时用作邻域选择和特征选择机制，显著增强了局部预测的鲁棒性与可解释性。