[论文解读] Data Debugging with Shapley Importance over End-to-End Machine Learning Pipelines

Bojan Karlaš, David Dao+5 more|arXiv (Cornell University)|Apr 23, 2022

Machine Learning and Data Classification被引用 7

一句话总结

本文提出了 DataScope，这是首个能够高效计算端到端机器学习流水线中训练样本 Shapley 值的系统。通过将流水线建模为‘标准流水线’——即一个关系代数查询后接一个 KNN 分类器——该系统在许多子族中实现了 PTIME 复杂度，相较于蒙特卡洛方法实现了高达四个数量级的速度提升，同时保持或提升了数据调试的有效性。

ABSTRACT

Developing modern machine learning (ML) applications is data-centric, of which one fundamental challenge is to understand the influence of data quality to ML training -- "Which training examples are 'guilty' in making the trained ML model predictions inaccurate or unfair?" Modeling data influence for ML training has attracted intensive interest over the last decade, and one popular framework is to compute the Shapley value of each training example with respect to utilities such as validation accuracy and fairness of the trained ML model. Unfortunately, despite recent intensive interest and research, existing methods only consider a single ML model "in isolation" and do not consider an end-to-end ML pipeline that consists of data transformations, feature extractors, and ML training. We present DataScope (ease.ml/datascope), the first system that efficiently computes Shapley values of training examples over an end-to-end ML pipeline, and illustrate its applications in data debugging for ML training. To this end, we first develop a novel algorithmic framework that computes Shapley value over a specific family of ML pipelines that we call canonical pipelines: a positive relational algebra query followed by a K-nearest-neighbor (KNN) classifier. We show that, for many subfamilies of canonical pipelines, computing Shapley value is in PTIME, contrasting the exponential complexity of computing Shapley value in general. We then put this to practice -- given an sklearn pipeline, we approximate it with a canonical pipeline to use as a proxy. We conduct extensive experiments illustrating different use cases and utilities. Our results show that DataScope is up to four orders of magnitude faster over state-of-the-art Monte Carlo-based methods, while being comparably, and often even more, effective in data debugging.

研究动机与目标

• 解决现代机器学习流水线中缺乏可扩展的、端到端的数据重要性计算问题，这些流水线包含数据转换和特征提取器。
• 通过在完整机器学习流水线而非孤立模型上计算 Shapley 值，实现高效且精确的数据调试。
• 通过一种可计算的算法框架，弥合关系数据溯源理论与现代机器学习流水线之间的鸿沟。
• 证明在许多子族中，对标准流水线的 Shapley 值计算属于 PTIME，与一般情况下的指数复杂度形成鲜明对比。
• 提供一个实用系统 DataScope，通过将真实 sklearn 流水线近似为标准流水线，实现高效的数据重要性分析。

提出的方法

• 作者定义了一类称为‘标准流水线’的流水线，其结构为一个正向关系代数查询后接一个 KNN 分类器。
• 他们证明，对于标准流水线的许多子族，Shapley 值计算属于 PTIME，从而避免了一般情况下的指数复杂度。
• 该系统通过特征工程和模型代理技术，将真实 sklearn 流水线转换为标准流水线以实现近似。
• DataScope 利用数据溯源与知识编译技术，追踪训练样本在整个流水线中的影响。
• 它使用代理模型（KNN）高效估算 Shapley 值，从而实现在大规模数据集上的可扩展计算。
• 该框架通过轻量级插桩技术与现有机器学习工作流集成，支持端到端流水线的调试。

实验结果

研究问题

• RQ1 尽管在一般情况下复杂度为指数级，是否可以使端到端机器学习流水线中的 Shapley 值计算变得可行？
• RQ2 哪一类机器学习流水线能够在保持数据调试实用性的同时，实现多项式时间的 Shapley 值计算？
• RQ3 如何有效近似真实世界中的 sklearn 流水线，使其可被标准流水线表示，从而实现高效的数据重要性分析？
• RQ4 基于标准流水线计算的 Shapley 值在多大程度上能提升数据调试效果，相较于最先进的蒙特卡洛方法？
• RQ5 数据溯源与关系代数能否与机器学习流水线分析有效结合，以实现可扩展、可解释的数据调试？

主要发现

• DataScope 相较于最先进的基于蒙特卡洛的 Shapley 值计算方法，实现了高达四个数量级的速度提升。
• 对于标准流水线的许多子族，Shapley 值计算属于 PTIME，使得在一般情况下不可行的精确计算成为可能。
• 该系统在数据调试方面的有效性与蒙特卡洛基线相当或更优，尤其在识别有问题的训练样本方面表现突出。
• 通过将真实 sklearn 流水线近似为标准流水线，保留了数据重要性排序的保真度，支持实际部署。
• 数据溯源与知识编译技术的结合，实现了跨特征提取与模型训练阶段的可扩展、端到端的影响分析。
• 实证评估证实，通过 DataScope 计算的 Shapley 值能有效识别数据质量问题，如噪声样本或偏差样本。