[论文解读] Automatic Model Monitoring for Data Streams

Fábio Pinto, Marco O. P. Sampaio+1 more|arXiv (Cornell University)|Aug 12, 2019

Data Stream Mining Techniques被引用 7

一句话总结

本文提出SAMM，一种用于数据流中自动模型监控的无监督流式系统，通过检测模型评分的分布变化来识别概念漂移，并生成可解释的报警报告。在五个真实世界的欺诈检测数据集上评估，SAMM在报警检测的可信度和报告清晰度方面获得高的人类专家评分，证明其在无即时标签情况下有效识别有意义漂移的能力。

ABSTRACT

Detecting concept drift is a well known problem that affects production systems. However, two important issues that are frequently not addressed in the literature are 1) the detection of drift when the labels are not immediately available; and 2) the automatic generation of explanations to identify possible causes for the drift. For example, a fraud detection model in online payments could show a drift due to a hot sale item (with an increase in false positives) or due to a true fraud attack (with an increase in false negatives) before labels are available. In this paper we propose SAMM, an automatic model monitoring system for data streams. SAMM detects concept drift using a time and space efficient unsupervised streaming algorithm and it generates alarm reports with a summary of the events and features that are important to explain it. SAMM was evaluated in five real world fraud detection datasets, each spanning periods up to eight months and totaling more than 22 million online transactions. We evaluated SAMM using human feedback from domain experts, by sending them 100 reports generated by the system. Our results show that SAMM is able to detect anomalous events in a model life cycle that are considered useful by the domain experts. Given these results, SAMM will be rolled out in a next version of Feedzai's Fraud Detection solution.

研究动机与目标

• 解决在生产机器学习系统中标签延迟或不可用时检测概念漂移的空白。
• 自动生成可操作的解释，识别导致漂移的特征和事件。
• 设计时间与空间效率高的系统，适用于高速数据流的实时监控。
• 通过领域专家的反馈评估系统，确保其在真实部署中的实际效用。

提出的方法

• SAMM 使用流信号 S，将近期目标窗口 T 中的模型评分分布与参考窗口 R 进行比较，检测指示概念漂移的分布偏移。
• 采用 SPEAR 算法，该算法使用固定桶实现常数时间与内存效率的分位数估计，支持实时运行。
• 当 S 超过动态阈值 τ 时触发报警，并训练辅助模型以识别 T 与 R 之间的区分性特征。
• 辅助模型输出特征重要性分数与预测置信度，以生成人类可读的解释报告。
• 系统动态调整阈值以适应制度变化，尽管当前实现基于历史分位数使用固定阈值。
• 从解释模型中移除时间相关特征，以避免产生虚假相关性。

实验结果

研究问题

• RQ1 在标签无法立即获取的情况下，无监督方法能否在数据流中检测到概念漂移？
• RQ2 系统能否为检测到的漂移生成有意义且可操作的解释，帮助用户识别根本原因？
• RQ3 生成的报警报告在向领域专家传达真实报警与可检测模式方面有多有效？
• RQ4 系统在具有不同漂移特征的数据集上的表现是否存在差异？
• RQ5 系统在未手动重新配置的情况下，如何处理如模型部署等突发制度变化？

主要发现

• 人类专家对报警报告的可信度和清晰度评分显著高于非漂移事件（低谷）的报告，差异具有统计学意义。
• 专家在查看验证图后更可能改变其对报警的初始信心，表明报告提供了有用的诊断洞察。
• 该系统在五个涵盖超过2200万笔交易、长达八个月数据的真实世界欺诈检测数据集中检测到有意义的漂移。
• 在数据集 B2 中，信号的高尖峰与新模型部署相关，证实了系统对制度变化的敏感性。
• 评估发现，阈值对部署事件的敏感性可能增加误报率，凸显未来工作中自适应阈值的必要性。
• 该系统的解释报告在识别真实报警方面尤为有效，关键事件如欺诈攻击和促销热卖均获得专家强烈验证。