[论文解读] Use of Ensembles of Fourier Spectra in Capturing Recurrent Concepts in Data Streams

Sripirakas Sakthithasan, Russel Pears+2 more|arXiv (Cornell University)|Apr 23, 2015

Data Stream Mining Techniques参考文献 8被引用 6

一句话总结

该论文提出了一种傅里叶谱集成方法（EP），以高效捕获并重用数据流中的重复概念，在准确率、内存效率和速度方面均优于单谱方法。通过将多个傅里叶编码决策树聚合为具有共享系数和谱能量阈值化的统一谱，EP 减少了冗余，并在高动态、高速环境中提升了鲁棒性。

ABSTRACT

In this research, we apply ensembles of Fourier encoded spectra to capture and mine recurring concepts in a data stream environment. Previous research showed that compact versions of Decision Trees can be obtained by applying the Discrete Fourier Transform to accurately capture recurrent concepts in a data stream. However, in highly volatile environments where new concepts emerge often, the approach of encoding each concept in a separate spectrum is no longer viable due to memory overload and thus in this research we present an ensemble approach that addresses this problem. Our empirical results on real world data and synthetic data exhibiting varying degrees of recurrence reveal that the ensemble approach outperforms the single spectrum approach in terms of classification accuracy, memory and execution time.

研究动机与目标

• 解决数据流环境中频繁出现概念导致单个傅里叶谱过度存储所引发的内存过载问题。
• 通过识别概念的部分和复合重出现，提升在高动态数据流中的分类准确率和系统稳定性。
• 通过谱能量阈值化和优化的傅里叶基函数计算，降低计算成本和内存占用。
• 在自动驾驶系统和金融预测等实时、安全关键应用中，实现对先前学习概念的高效重用。
• 开发一种可扩展且鲁棒的概念重用方法，使其在噪声和概念漂移条件下仍能保持性能。

提出的方法

• 采用集成方法将多个傅里叶编码决策树聚合为单一统一谱，以减少内存开销。
• 应用谱能量阈值化，通过仅保留最重要的傅里叶系数来控制压缩级别。
• 通过改进的基函数评估策略，消除昂贵的内积运算，优化 DFT 计算。
• 利用谱之间的结构相似性指导集成聚合，提升对概念重出现的识别能力，并减少过拟合。
• 将 EP 方法与漂移检测器（如 SeqDrift2）集成，以在概念漂移点触发谱更新。
• 在 Spark 等分布式框架中实现谱计算与数据流摄入的并行处理，以提升吞吐量。

实验结果

研究问题

• RQ1 傅里叶谱集成方法是否在捕获数据流中重复概念方面优于单谱编码？
• RQ2 谱能量阈值化对概念重用中的压缩效率和分类准确率有何影响？
• RQ3 漂移检测器的选择（如 ADWIN 与 SeqDrift2）对集成方法的稳定性和准确率有何影响？
• RQ4 在不同内存约束下，数据池大小如何影响基于集成的方法的性能？
• RQ5 与基于准确率的聚合相比，谱的结构相似性是否能提升对部分重出现或复合概念的识别能力？

主要发现

• 在池大小为 1 时，EP 相较于 FCT 实现了 7.6% 的更高分类准确率，表明其在极端内存受限环境下的优越性能。
• 在池大小为 10 时，EP 保持了高于 FCT 的准确率，表明集成聚合在可用内存增加时仍能良好扩展。
• 使用 SeqDrift2 漂移检测器相比 ADWIN 将准确率波动降低了 5%，这是由于误报检测更少。
• 基于结构相似性的集成方法在抗噪声和过拟合方面优于基于准确率的聚合方法和简单组合方法。
• 谱能量阈值化实现了对压缩级别的有效控制，直接影响内存使用量和模型保真度。
• 优化后的 DFT 计算消除了高成本的内积运算，提升了处理速度且未牺牲准确率。