[论文解读] stream-learn -- open-source Python library for difficult data stream batch analysis

Paweł Ksieniewicz, Paweł Zyblewski|arXiv (Cornell University)|Jan 29, 2020

Data Stream Mining Techniques被引用 10

一句话总结

stream-learn 是一个开源的 Python 库，专为具有概念漂移和动态类别不平衡的数据流进行批量处理而构建，支持合成数据流生成、与 scikit-learn 兼容的估计器，以及通过 Test-Then-Train 和 Prequential 方法实现的高效评估。它支持重复性和非重复性漂移类型及动态不平衡比率，可实现可复现的高性能实验，适用于类别不平衡和漂移数据流的科研工作。

ABSTRACT

stream-learn is a Python package compatible with scikit-learn and developed for the drifting and imbalanced data stream analysis. Its main component is a stream generator, which allows to produce a synthetic data stream that may incorporate each of the three main concept drift types (i.e. sudden, gradual and incremental drift) in their recurring or non-recurring versions. The package allows conducting experiments following established evaluation methodologies (i.e. Test-Then-Train and Prequential). In addition, estimators adapted for data stream classification have been implemented, including both simple classifiers and state-of-art chunk-based and online classifier ensembles. To improve computational efficiency, package utilises its own implementations of prediction metrics for imbalanced binary classification tasks.

研究动机与目标

• 为解决当前缺乏用于具有概念漂移和动态类别不平衡的数据流批量处理的开源、与 scikit-learn 兼容的工具的问题。
• 使研究人员能够生成具有受控、可复现特性的合成数据流，包括突发性、渐变性和增量性漂移。
• 在面向批量处理的框架中，支持使用成熟的方法论（如 Test-Then-Train 和 Prequential）进行评估。
• 提供高效、自定义实现的指标，用于不平衡二分类任务，以提升计算性能。
• 提供针对数据流分类优化的先进分类器集成方法（例如，SEA、OnlineBagging、OOB、UOB、WAE）。

提出的方法

• 该库基于 Mäder 模型实现了一个 StreamGenerator 类，支持可配置漂移和不平衡特性的合成数据流生成。
• 支持三种概念漂移类型——突发性、渐变性和增量性——每种均支持重复或非重复变体。
• 通过 'weights' 参数建模类别不平衡，可定义静态比例或使用周期数、间隔和范围参数实现随时间动态振荡的不平衡。
• 该包包含面向不平衡分类的批量优化实现指标，相较于 scikit-learn 和 imbalanced-learn 实现具有更高的效率。
• 提供两种评估器：Test-Then-Train 和 Prequential，均已适配批量处理，以支持可复现实验。
• 集成简单分类器（如累积样本分类器）和高级集成方法（如 SEA、OnlineBagging、OOB、UOB、WAE），并保持与 scikit-learn API 兼容。

Figure 1 : Overall schema of the software architecture.

实验结果

研究问题

• RQ1 如何在 Python 中高效生成具有受控概念漂移和动态类别不平衡的合成数据流，以支持可复现研究？
• RQ2 与在线处理相比，数据流的批量处理在 Python 中能多大程度提升计算效率？
• RQ3 在同时存在概念漂移和动态不平衡条件下，最先进的分类器集成方法表现如何？
• RQ4 为不平衡分类定制的优化指标能否提升流评估管道的性能和速度？
• RQ5 stream-learn 在支持使用 Test-Then-Train 和 Prequential 等成熟评估方法进行可复现实验方面效果如何？

主要发现

• stream-learn 支持生成具有多种漂移类型（突发性、渐变性、增量性）的合成数据流，包括重复和非重复形式，可对漂移动态实现细粒度控制。
• 该库支持静态和动态变化的类别不平衡比例，后者通过周期数、间隔和范围的元组参数化实现。
• 它提供了高效、自定义实现的不平衡二分类预测指标，相比标准的 scikit-learn 和 imbalanced-learn 实现，显著降低了计算开销。
• 该库提供了稳定、开源的先进在线集成方法（如 UOB、OOB 和 WAE）的实现，此前在 Python 中缺乏一致的 API 接口。
• 与 scikit-learn 的集成确保了与现有机器学习工作流的无缝兼容性，支持即插即用的 stream-learn 估计器。
• 该库已在多个研究项目中成功应用，涵盖主动学习、增量学习中的预处理，以及不平衡数据流的动态集成选择。

Figure 2 : Accuracy score and precision achieved by a Gaussian Naive Bayes classifier over the run of the synthetic data stream generated by the StreamGenerator class.