[论文解读] Fast Utility Mining on Complex Sequences

Wensheng Gan, Jerry Chun‐Wei Lin+4 more|arXiv (Cornell University)|Apr 28, 2019

Data Mining Algorithms and Applications参考文献 47被引用 9

一句话总结

本文提出HUSP-ULL，一种用于快速高单位序列模式挖掘（HUSPM）的新算法，利用字典序序列（LS）树和单位链接（UL）列表结构，高效计算单位值和上界。该算法引入两种剪枝策略以减少搜索空间，在真实和合成数据集上显著提升了运行时间和内存效率，优于当前最先进方法。

ABSTRACT

High-utility sequential pattern mining is an emerging topic in the field of Knowledge Discovery in Databases. It consists of discovering subsequences having a high utility (importance) in sequences, referred to as high-utility sequential patterns (HUSPs). HUSPs can be applied to many real-life applications, such as market basket analysis, E-commerce recommendation, click-stream analysis and scenic route planning. For example, in economics and targeted marketing, understanding economic behavior of consumers is quite challenging, such as finding credible and reliable information on product profitability. Several algorithms have been proposed to address this problem by efficiently mining utility-based useful sequential patterns. Nevertheless, the performance of these algorithms can be unsatisfying in terms of runtime and memory usage due to the combinatorial explosion of the search space for low utility threshold and large databases. Hence, this paper proposes a more efficient algorithm for the task of high-utility sequential pattern mining, called HUSP-ULL. It utilizes a lexicographic sequence (LS)-tree and a utility-linked (UL)-list structure to fast discover HUSPs. Furthermore, two pruning strategies are introduced in HUSP-ULL to obtain tight upper-bounds on the utility of candidate sequences, and reduce the search space by pruning unpromising candidates early. Substantial experiments both on real-life and synthetic datasets show that the proposed algorithm can effectively and efficiently discover the complete set of HUSPs and outperforms the state-of-the-art algorithms.

研究动机与目标

• 为解决现有高单位序列模式挖掘（HUSPM）算法在大型数据库和低单位阈值下因组合爆炸导致的效率低下问题。
• 开发一种更高效的算法，在挖掘所有高单位序列模式（HUSPs）的同时，降低运行时间和内存消耗。
• 引入新型数据结构——LS树和UL列表，以实现快速单位值计算和紧致的上界估计。
• 设计两种剪枝策略，通过早期剔除无希望的候选模式来减少搜索空间。
• 在真实和合成数据集上评估所提算法的性能，证明其在可扩展性和效率方面具有显著优势。

提出的方法

• HUSP-ULL算法使用字典序序列（LS）树，将候选序列组织成分层有序结构，以实现高效遍历和剪枝。
• 采用单位链接（UL）列表结构，以紧凑且增量的方式存储和计算候选序列的单位值和上界值。
• 该算法应用两种剪枝策略：(1) 基于单位值的剪枝，利用上界估计早期剔除无希望的候选；(2) 基于字典序排序的剪枝，以减少冗余探索。
• LS树通过利用字典序排序和基于前缀的扩展，实现高效的候选生成和单位值计算。
• UL列表在挖掘过程中支持快速单位值重新计算和上界传播，减少冗余计算。
• 该算法整合上述组件，在系统性探索搜索空间的同时，最大限度减少内存使用和运行时间。

实验结果

研究问题

• RQ1 如何通过紧凑的数据结构和有效剪枝策略加速高单位序列模式挖掘？
• RQ2 LS树和UL列表结构是否能显著降低HUSPM中的内存消耗和运行时间？
• RQ3 所提出的剪枝策略相比现有方法在提高HUSP发现效率方面表现如何？
• RQ4 HUSP-ULL在具有不同规模和单位阈值的大规模合成数据集上的可扩展性如何？
• RQ5 HUSP-ULL在运行时间和内存效率方面是否优于当前最先进HUSPM算法？

主要发现

• HUSP-ULL在所有测试数据集上均实现了最低的运行时间，显著优于HUS-Span、USpan、ProUM及其他最先进算法。
• 在Leviathan数据集上，HUSP-ULL在所有δ值下均完成挖掘，而USpan在δ低于1.20%时因内存不足而崩溃。
• HUSP-ULL在所有算法中内存消耗最低，在Kosarak10k上保持约200 MB稳定内存使用，在yoochoose-buys上维持在500–600 MB之间，且随δ值变化保持稳定。
• 在合成数据集上，HUSP-ULL展现出优越的可扩展性，支持高达400K条序列，运行时间稳步增长且未发生失败；相比之下，HUS-Span在低阈值下因内存溢出而崩溃。
• 随着数据集规模增大，候选模式数量保持低且稳定，这得益于较高的最小单位阈值，而HUSP-ULL仍能高效评估这些候选。
• 两种剪枝策略通过收紧上界估计，有效减少了搜索空间，促进了更快收敛并降低了资源消耗。