[论文解读] Hybrid Predictive Model: When an Interpretable Model Collaborates with a Black-box Model

Tong Wang, Qihang Lin|arXiv (Cornell University)|May 10, 2019

Explainable Artificial Intelligence (XAI)参考文献 60被引用 11

一句话总结

本文提出一种混合预测模型（HPM），将可解释模型（如关联规则或线性模型）与黑箱模型结合，以在保持高预测性能的同时提升透明度。该框架在黑箱模型表现几乎相同的子数据集上，选择性地用可解释模型替代黑箱模型，通过合理设计的目标函数优化准确率、可解释性与模型透明度之间的权衡，从而实现高效的性能-透明度前沿。

ABSTRACT

Interpretable machine learning has become a strong competitor for traditional black-box models. However, the possible loss of the predictive performance for gaining interpretability is often inevitable, putting practitioners in a dilemma of choosing between high accuracy (black-box models) and interpretability (interpretable models). In this work, we propose a novel framework for building a Hybrid Predictive Model (HPM) that integrates an interpretable model with any black-box model to combine their strengths. The interpretable model substitutes the black-box model on a subset of data where the black-box is overkill or nearly overkill, gaining transparency at no or low cost of the predictive accuracy. We design a principled objective function that considers predictive accuracy, model interpretability, and model transparency (defined as the percentage of data processed by the interpretable substitute.) Under this framework, we propose two hybrid models, one substituting with association rules and the other with linear models, and we design customized training algorithms for both models. We test the hybrid models on structured data and text data where interpretable models collaborate with various state-of-the-art black-box models. Results show that hybrid models obtain an efficient trade-off between transparency and predictive performance, characterized by our proposed efficient frontiers.

研究动机与目标

• 解决机器学习模型中预测准确率与可解释性之间的权衡问题。
• 克服事后解释方法的局限性，后者仅提供近似且不一致的解释。
• 开发一种框架，在黑箱模型过度复杂的子数据集上，用可解释模型替代黑箱模型。
• 优化一个联合目标函数，以平衡预测性能、可解释性与模型透明度（可解释模型处理的数据比例）。
• 通过最先进的黑箱模型，在结构化数据与文本数据上展示混合方法的有效性。

提出的方法

• 提出一种通用的混合预测模型（HPM）框架，首先将输入路由至可解释模型，仅在必要时才回退至黑箱模型。
• 定义一个合理的目标函数，结合预测损失、通过模型复杂度衡量的可解释性惩罚，以及可解释模型的支持率（透明度）。
• 为两种实现形式设计定制化训练算法：一种使用关联规则，另一种使用线性模型作为可解释替代模型。
• 采用基于最优性条件的阈值规则选择机制：支持度 ≤ Nα₁ 的规则将从正向规则集中排除，支持度 ≤ Nα₁/(1−α₂) 的规则将从负向规则集中排除。
• 采用两阶段决策过程：若可解释模型能以足够置信度进行预测，则使用该模型；否则调用黑箱模型。
• 推导出规则支持度与模型复杂度的理论边界，以确保混合模型的最优性与收敛性。

实验结果

研究问题

• RQ1 是否可在不显著损失预测性能的前提下，用可解释模型替代黑箱模型处理数据子集？
• RQ2 混合模型中预测准确率、可解释性与透明度之间的最优权衡是什么？
• RQ3 如何设计一个合理的目标函数，以联合优化准确率、可解释性与透明度？
• RQ4 在何种理论条件下，可安全地从模型中移除支持度较低的可解释规则而不降低性能？
• RQ5 混合模型能否在性能-透明度权衡上优于独立的可解释模型或黑箱模型？

主要发现

• 混合模型在保持与完整黑箱模型相当的预测性能的同时，显著提升了透明度，最高可对70%的数据使用可解释模型处理。
• 该框架生成了高效的性能-透明度前沿，展现出优于纯可解释模型与黑箱模型的准确率-透明度权衡。
• 理论分析证实，支持度较低（≤ Nα₁）的规则为次优，可安全排除，从而确保模型效率与可解释性。
• 针对关联规则与线性模型的定制化训练算法，成功识别出可解释模型可有效替代黑箱模型的数据子空间。
• 在结构化数据与文本数据上的实证结果表明，混合模型在保持高准确率的同时，显著提升了输入空间大范围区域的可解释性。
• 该方法通过将可解释性直接嵌入决策过程，减少了对事后解释器的依赖，后者存在保真度与一致性问题。