[论文解读] CASP-DM: Context Aware Standard Process for Data Mining

Fernando Martínez‐Plumed, Lidia Contreras-Ochando+6 more|arXiv (Cornell University)|Sep 19, 2017

Data Stream Mining Techniques参考文献 44被引用 21

一句话总结

CASP-DM 通过引入上下文感知活动，将 CRISP-DM 扩展为能够主动管理数据、目标和领域变化的框架，从而实现模型复用并减少项目返工。它在标准数据挖掘生命周期中增加了上下文识别、上下文重构和模型监控等专用任务，使数据挖掘项目更具适应性和可维护性。

ABSTRACT

We propose an extension of the Cross Industry Standard Process for Data Mining (CRISPDM) which addresses specific challenges of machine learning and data mining for context and model reuse handling. This new general context-aware process model is mapped with CRISP-DM reference model proposing some new or enhanced outputs.

研究动机与目标

• 解决现有数据挖掘方法（如 CRISP-DM、KDD 和 SEMMA）中缺乏系统性上下文感知的问题。
• 减少因不可预见的上下文变化（如新数据分布、语言变化或欺诈模式演变）导致的项目返工和成本增加。
• 在无需完全重新训练或重新设计的情况下，实现在不同领域和上下文中的模型复用与适应能力。
• 确保与 CRISP-DM 的向后兼容性，以支持从业者无缝采用，并与 RapidMiner 和 IBM SPSS Modeler 等现有工具集成。
• 通过 casp-dm.org 建立社区驱动的标准，以应对新兴挑战，持续推动数据挖掘方法论的演进。

提出的方法

• 在 CRISP-DM 的六阶段生命周期中扩展新的上下文感知任务，包括上下文识别、上下文变化监控和基于上下文的模型选择。
• 引入“重构”作为核心技术，用于在不从头重新训练的情况下将模型适应到新上下文。
• 将上下文定义为一组影响模型性能和部署的参数（例如，数据分布、语言、任务目标、成本约束）。
• 将上下文监控集成到部署和评估阶段，以跟踪变化并触发模型更新或重新选择。
• 提出一种模型池管理策略，即维护多个上下文特定的模型，并根据实时上下文估计结果进行选择。
• 开发最终经验文档化流程，以记录关于上下文处理、模型通用性以及重构有效性的经验教训。

实验结果

研究问题

• RQ1 如何使数据挖掘项目对上下文变化（如数据分布、语言或业务目标的变化）更具韧性？
• RQ2 在数据挖掘生命周期中系统性地识别和管理上下文，需要哪些具体任务和输出？
• RQ3 在上下文发生变化时，模型复用和重构能在多大程度上减少对完整重训练的需求？
• RQ4 如何在不破坏向后兼容性的前提下，将上下文感知能力集成到 CRISP-DM 中？
• RQ5 社区平台在持续支持和推动上下文感知数据挖掘方法论的发展中发挥什么作用？

主要发现

• CASP-DM 通过引入上下文感知活动成功扩展了 CRISP-DM，能够预见并管理上下文变化，从而降低项目返工风险。
• MoReBikeS 案例研究证明，上下文感知的模型选择使现有模型能够在具有相似上下文特征的新自行车租赁站点中复用。
• 经验文档化显示，上下文识别与重构显著提升了模型的适应能力，并降低了部署成本。
• 该框架通过将上下文视为首要参数，实现了在多样化上下文（如多语言文本摘要或演变中的欺诈检测）中跨域的模型复用。
• 与 CRISP-DM 的向后兼容性使得从业者能够立即采用该框架，且可与 RapidMiner 和 IBM SPSS Modeler 等工具无缝集成。
• 通过建立 casp-dm.org 作为社区平台，支持了上下文感知数据挖掘实践的持续标准化与演进。