[論文レビュー] Fast Utility Mining on Complex Sequences

Wensheng Gan, Jerry Chun‐Wei Lin+4 more|arXiv (Cornell University)|Apr 28, 2019

Data Mining Algorithms and Applications参考文献 47被引用数 9

ひとこと要約

本稿では、辞書式順序（LS）木と利用価値連携（UL）リスト構造を用いて、利用価値と上限値を効率的に計算する、高速なハイユーティリティ順序パターンマイニング（HUSPM）のための新規アルゴリズムHUSP-ULLを提案する。本研究では、探索空間を削減する2つのプルーニング戦略を導入し、実データおよび合成データセットにおいて、最先端の手法と比較して実行時間とメモリ効率が顕著に向上した。

ABSTRACT

High-utility sequential pattern mining is an emerging topic in the field of Knowledge Discovery in Databases. It consists of discovering subsequences having a high utility (importance) in sequences, referred to as high-utility sequential patterns (HUSPs). HUSPs can be applied to many real-life applications, such as market basket analysis, E-commerce recommendation, click-stream analysis and scenic route planning. For example, in economics and targeted marketing, understanding economic behavior of consumers is quite challenging, such as finding credible and reliable information on product profitability. Several algorithms have been proposed to address this problem by efficiently mining utility-based useful sequential patterns. Nevertheless, the performance of these algorithms can be unsatisfying in terms of runtime and memory usage due to the combinatorial explosion of the search space for low utility threshold and large databases. Hence, this paper proposes a more efficient algorithm for the task of high-utility sequential pattern mining, called HUSP-ULL. It utilizes a lexicographic sequence (LS)-tree and a utility-linked (UL)-list structure to fast discover HUSPs. Furthermore, two pruning strategies are introduced in HUSP-ULL to obtain tight upper-bounds on the utility of candidate sequences, and reduce the search space by pruning unpromising candidates early. Substantial experiments both on real-life and synthetic datasets show that the proposed algorithm can effectively and efficiently discover the complete set of HUSPs and outperforms the state-of-the-art algorithms.

研究の動機と目的

• 大規模なデータベースや低い利用価値閾値における、既存のハイユーティリティ順序パターンマイニング（HUSPM）アルゴリズムの非効率性（組み合わせ的爆発）を解消すること。
• すべてのハイユーティリティ順序パターン（HUSP）をマイニングする際、実行時間とメモリ消費量を低減するより効率的なアルゴリズムの開発。
• 高速な利用価値計算とタイトな上限推定を可能にする、新規のデータ構造（LS木とULリスト）の導入。
• 有望でない候補を早期に除外することで探索空間を削減する2つのプルーニング戦略の設計。
• 実生活および合成データセットにおける提案アルゴリズムの性能評価を通し、優れたスケーラビリティと効率性を示すこと。

提案手法

• HUSP-ULLアルゴリズムは、候補となる順序パターンを階層的かつ順序付けられた構造として効率的に走査・プルーニングできるように、辞書式順序（LS）木を用いる。
• 候補順序パターンの利用価値と上限値をコンパクトかつ段階的に保持・計算するため、利用価値連携（UL）リスト構造を採用する。
• 2つのプルーニング戦略を適用する：(1) 上限推定値を用いた利用価値ベースのプルーニングにより、有望でない候補を早期に除外し、(2) 辞書式順序に基づくプルーニングにより、重複する探索を削減する。
• LS木により、辞書式順序と接頭辞ベースの拡張を活用して、効率的な候補生成と利用価値計算が可能になる。
• ULリストにより、マイニングプロセス中に利用価値の再計算と上限値の伝搬を高速化し、重複計算を低減する。
• これらのコンponentsを統合することで、メモリ使用量と実行時間を最小限に抑えつつ、探索空間を体系的に探索する。

実験結果

リサーチクエスチョン

• RQ1 コンパクトなデータ構造と効果的なプルーニングを用いて、ハイユーティリティ順序パターンマイニングをどのように高速化できるか？
• RQ2 LS木とULリスト構造は、HUSPMにおけるメモリ消費量と実行時間を顕著に削減できるか？
• RQ3 提案された2つのプルーニング戦略は、既存手法と比較してHUSP発見の効率性をどのように向上させるか？
• RQ4 HUSP-ULLは、サイズと利用価値閾値が変化する大規模な合成データセットにおいて、スケーラビリティを示せるか？
• RQ5 HUSP-ULLは、実行時間とメモリ効率の両面で、最先端のHUSPMアルゴリズムを上回るか？

主な発見

• HUSP-ULLは、すべてのテストデータセットで最短の実行時間を達成し、HUS-Span、USpan、ProUM、および他の最先端のアルゴリズムを顕著に上回った。
• Leviathanデータセットでは、δ値がいかなる値であってもHUSP-ULLはマイニングを完了したが、USpanはδが1.20%未満の際にメモリ不足で停止した。
• HUSP-ULLは、すべてのアルゴリズムの中で最も少ないメモリを消費し、Kosarak10kでは200 MB前後、yoochoose-buysでは500～600 MBの範囲で、δ値の変化に関わらず安定した使用量を維持した。
• 合成データセットにおいては、最大400Kの順序パターンまでスケーラビリティを示し、実行時間は徐々に増加したが、障害は発生しなかった。これに対してHUS-Spanは、低閾値でメモリオーバーフローにより失敗した。
• データセットサイズが増大しても、最小利用価値閾値が高いため、候補数は低く安定したが、HUSP-ULLはその評価においても高い効率を維持した。
• 2つのプルーニング戦略により、上限推定値がタイトに保たれ、探索空間が効果的に削減され、収束が速くなり、リソース消費量も低減した。