[论文解读] Resource-aware Elastic Swap Random Forest for Evolving Data Streams

Diego Marrón, Eduard Ayguadé+2 more|arXiv (Cornell University)|May 14, 2019

Data Stream Mining Techniques参考文献 8被引用 6

一句话总结

本文提出弹性交换随机森林（ESRF），一种自适应集成方法，通过动态管理高精度分类器的前沿集合与用于替换的候选集合，减少自适应随机森林（ARF）中的树的数量，实现与ARF100相当的准确率，同时树的数量最多减少66%，推理速度提升3倍。

ABSTRACT

Continual learning based on data stream mining deals with ubiquitous sources of Big Data arriving at high-velocity and in real-time. Adaptive Random Forest ({\em ARF}) is a popular ensemble method used for continual learning due to its simplicity in combining adaptive leveraging bagging with fast random Hoeffding trees. While the default ARF size provides competitive accuracy, it is usually over-provisioned resulting in the use of additional classifiers that only contribute to increasing CPU and memory consumption with marginal impact in the overall accuracy. This paper presents Elastic Swap Random Forest ({\em ESRF}), a method for reducing the number of trees in the ARF ensemble while providing similar accuracy. {\em ESRF} extends {\em ARF} with two orthogonal components: 1) a swap component that splits learners into two sets based on their accuracy (only classifiers with the highest accuracy are used to make predictions); and 2) an elastic component for dynamically increasing or decreasing the number of classifiers in the ensemble. The experimental evaluation of {\em ESRF} and comparison with the original {\em ARF} shows how the two new components contribute to reducing the number of classifiers up to one third while providing almost the same accuracy, resulting in speed-ups in terms of per-sample execution time close to 3x.

研究动机与目标

• 解决ARF默认100棵树集成的低效问题，其往往过度配置且准确率提升微乎其微。
• 在不牺牲预测性能的前提下，降低数据流学习中的计算与内存开销。
• 根据准确率和概念漂移检测结果，动态调整活跃分类器的数量，以优化资源使用。
• 引入一种交换机制，在后台用性能更高的候选树替换低性能树。
• 通过可调阈值实现集成弹性的平衡，兼顾准确率与资源消耗。

提出的方法

• ESRF根据分类器准确率将集成划分为前沿集合（活跃预测器）和候选集合（后台学习者）。
• 交换组件在交换能提升整体集成准确率时，用性能更高的候选树替换前沿树。
• 弹性组件根据性能和漂移检测信号，动态调整前沿集合的大小。
• 该方法使用两个阈值：敏感阈值（Ts）和通用阈值（Tg），以控制何时扩展或收缩集成规模。
• 系统对每棵树监控漂移检测器，当发出漂移警告时，触发后台学习和潜在交换。
• 最终的集成规模由交换带来的准确率增益与资源约束之间的动态相互作用决定。

实验结果

研究问题

• RQ1 在演化数据流中，ARF的树数量能否在不显著降低分类准确率的情况下被减少？
• RQ2 两套分类器管理策略（前沿与候选）在使用更少树的情况下，能否维持或提升准确率？
• RQ3 动态调整集成规模在多大程度上能提升计算效率，同时保持预测性能？
• RQ4 在自适应流学习中，准确率与资源消耗（内存、CPU）之间的最优权衡是什么？
• RQ5 不同的阈值设置（Ts 和 Tg）如何影响ESRF模型的规模、速度和准确率？

主要发现

• ESRF将树的平均数量从100（ARF100）减少至33.41，集成规模减少66.6%。
• ESRF的平均准确率为84.33%，相较于ARF100的84.13%，在所有数据集上平均提升0.19%。
• 每样本推理时间平均减少3.14倍，各数据集上的加速比范围为1.35倍至4.91倍。
• 在14个数据集中的12个，ESRF与ARF100的准确率差异在-0.05%以内，最差情况下降0.30%（RTG数据集）。
• 采用更严格的阈值（Ts = Tg = 0.001）时，ESRF在具有挑战性的数据集中实现了更高准确率，同时保持更小的平均模型规模。
• 该方法表现出高度稳定性，模型规模（标准差10.31）与加速比（标准差10.31）的波动均较小，表明实验中性能一致。