[论文解读] Slice Finder: Automated Data Sclicing for Model Validation

Yeounoh Chung, Tim Kraska+2 more|arXiv (Cornell University)|Jul 16, 2018

Machine Learning and Data Classification被引用 4

一句话总结

Slice Finder 是一种交互式、统计性的框架，可自动识别可解释的、高影响力的子数据集，这些子数据集中的模型性能下降，从而帮助用户诊断公平性违规或欺诈模式等问题。它结合统计检验与用户引导的优化，找出能揭示聚合指标下不可见性能问题的大规模、可操作的验证数据子集。

ABSTRACT

As machine learning systems become democratized, it becomes increasingly important to help users easily debug their models. However, current data tools are still primitive when it comes to helping users trace model performance problems all the way to the data. We focus on the particular problem of slicing data to identify subsets of the validation data where the model performs poorly. This is an important problem in model validation because the overall model performance can fail to reflect that of the smaller subsets, and slicing allows users to analyze the model performance on a more granular-level. Unlike general techniques (e.g., clustering) that can find arbitrary slices, our goal is to find interpretable slices (which are easier to take action compared to arbitrary subsets) that are problematic and large. We propose Slice Finder, which is an interactive framework for identifying such slices using statistical techniques. Applications include diagnosing model fairness and fraud detection, where identifying slices that are interpretable to humans is crucial. This research is part of a larger trend of Big data and Artificial Intelligence (AI) integration and opens many opportunities for new research.

研究动机与目标

• 解决在整体指标可接受的情况下，识别模型性能下降的具体数据子集的挑战。
• 通过聚焦于可解释的切片而非任意聚类或子群体，改进模型调试。
• 通过隔离问题数据模式，使实践者能够采取可操作的措施，例如提升公平性或检测欺诈。
• 弥合机器学习流水线中高层模型评估与低层数据根因分析之间的差距。
• 通过提供可扩展、用户交互的工具支持人工智能与大数据的集成，以实现模型验证。

提出的方法

• 该框架使用统计假设检验来评估数据切片与整体数据集之间的性能差异。
• 在扫描大量潜在切片时，应用多重检验校正以控制假阳性率。
• 根据统计显著性与切片大小对候选切片进行排序，以优先识别影响大且可解释的子集。
• 通过允许用户基于领域知识约束或扩展搜索空间，支持交互式优化。
• 利用基于特征的划分方法生成人类可理解的切片（例如，“高收入、农村用户”），而非任意聚类。
• 与现有模型验证流水线集成，以标记性能显著下降的切片。

实验结果

研究问题

• RQ1 我们如何能自动识别出与整体数据集相比性能显著下降的、具有可解释性的数据切片？
• RQ2 哪些统计技术能够可靠地检测数据子集中的性能异常，同时将假阳性率降至最低？
• RQ3 如何在检测到的切片的大小与可解释性之间取得平衡，以确保其对实践者具有可操作性？
• RQ4 用户交互在多大程度上能提升实际调试场景中所识别切片的相关性与实用性？
• RQ5 该框架能否通过切片分析在真实世界的模型验证任务中有效检测出公平性问题与欺诈模式？

主要发现

• Slice Finder 能够成功识别出在统计上显著且对领域专家具有语义可解释性的性能下降切片。
• 该框架能够检测出在聚合模型指标中被掩盖的特定子群体（例如代表性不足的群体）的性能下降。
• 通过优先识别大而可解释的切片，该方法相比基于聚类的方法更可能产生可操作的洞察。
• 交互式优化使用户能够聚焦于相关数据维度，从而提高检测到的切片的相关性。
• 统计严谨性与可解释性的结合，使得在模型验证中能更快诊断出与公平性和欺诈相关的问题。