[论文解读] Peeking Inside the Black Box: Visualizing Statistical Learning with Plots of Individual Conditional Expectation

Alex Goldstein, Adam Kapelner+2 more|arXiv (Cornell University)|Sep 25, 2013

Mental Health Research TopicsPsychology被引用 18

一句话总结

本文提出个体条件期望（ICE）图作为一种可视化方法，用于展示黑箱机器学习模型中数据集内各个观测值对预测变量变化的响应。通过绘制每个观测值在特征取值范围内的预测响应，ICE图揭示了传统部分依赖图（PDPs）所掩盖的异质性关系与交互作用，从而提供对模型行为的更深入洞察，并支持对数据生成过程是否具有可加性的可视化检验。

ABSTRACT

This article presents Individual Conditional Expectation (ICE) plots, a tool for visualizing the model estimated by any supervised learning algorithm. Classical partial dependence plots (PDPs) help visualize the average partial relationship between the predicted response and one or more features. In the presence of substantial interaction effects, the partial response relationship can be heterogeneous. Thus, an average curve, such as the PDP, can obfuscate the complexity of the modeled relationship. Accordingly, ICE plots refine the partial dependence plot by graphing the functional relationship between the predicted response and the feature for individual observations. Specifically, ICE plots highlight the variation in the fitted values across the range of a covariate, suggesting where and to what extent heterogeneities might exist. In addition to providing a plotting suite for exploratory analysis, we include a visual test for additive structure in the data generating model. Through simulated examples and real data sets, we demonstrate how ICE plots can shed light on estimated models in ways PDPs cannot. Procedures outlined are available in the R package ICEbox.

研究动机与目标

• 通过提供超越平均效应的可视化工具，弥合黑箱机器学习模型的可解释性差距。
• 克服部分依赖图（PDPs）的局限性，后者因对所有观测值取平均而掩盖了个体层面的关系。
• 开发一种方法，利用可视化诊断手段检测拟合模型中的异质效应与交互结构。
• 提出一种可视化假设检验框架，用于评估模型结构是否为可加性，或是否包含交互效应。

提出的方法

• ICE图通过在目标特征的边际分布范围内变化时，可视化每个个体观测值的预测响应，而非对所有观测值取平均。
• 对每个观测值，在保持其他特征固定在其观测值的前提下，计算目标特征在多个取值下的模型预测。
• 通过将曲线相对于均值进行中心化，提出中心化ICE（c-ICE）图；通过展示变化率行为，提出导数ICE（d-ICE）图，以增强可解释性。
• 提出基于队列的可视化检验方法，通过将实际ICE图与可加模型的零分布进行比较，评估非可加效应的统计显著性。
• 该方法已集成于R包 ICEbox 中，支持可重现分析，并可无缝融入标准建模工作流程。
• 该方法具有模型无关性，适用于任何产生拟合函数 $\hat{f}$（将特征映射到预测值）的监督学习算法。

实验结果

研究问题

• RQ1 如何比基于平均值的部分依赖图更有效地可视化黑箱模型中预测变量与预测结果之间的个体关系？
• RQ2 ICE图在哪些方面揭示了标准PDP中被掩盖的模型交互作用与异质性？
• RQ3 ICE图能否用于视觉检验真实数据生成过程是否为可加性，或是否包含交互效应？
• RQ4 与Shapley值或变量重要性度量等其他模型可解释性工具相比，ICE图在捕捉特征效应方面表现如何？
• RQ5 ICE图在多大程度上能够检测并可视化预测空间中的外推现象，这些现象可能损害模型的可靠性？

主要发现

• ICE图成功揭示了在部分依赖图中被掩盖的预测变量与预测结果之间的异质性关系，尤其在存在交互效应时表现显著。
• 当模型在目标特征及其他协变量上为可加性时，ICE曲线呈现平行状态，表明各观测值的边际效应一致。
• 当存在交互作用时，ICE曲线形状发生分离，明确表明某一特征的影响依赖于其他预测变量的取值。
• 基于ICE图的视觉队列检验可有效区分非可加结构与噪声，在模拟示例中表现出高判别能力（如图13所示，正确识别率达100%）。
• 在真实数据中，如白葡萄酒质量数据集，ICE图揭示了pH对预测质量的影响在不同观测值间存在显著差异，提示存在非可加交互作用。
• ICEbox R包支持研究人员生成ICE、c-ICE与d-ICE图，并支持高级分析，如聚类ICE曲线以检测模式。