[論文レビュー] Sequence Graph Transform (SGT): A Feature Extraction Function for Sequence Data Mining (Extended Version)

Chitta Ranjan, Samaneh Ebrahimi+1 more|arXiv (Cornell University)|Aug 11, 2016

Data Mining Algorithms and Applications被引用数 3

ひとこと要約

本稿では、計算コストを低く抑えながら、短期間および長期のパターンを効率的に捉えることで、系列データの有限次元空間への埋め込みを可能にする、新しい特徴抽出関数であるSequence Graph Transform (SGT) を提案する。SGT は、分類、クラスタリング、検索などの系列マイニングタスクにおいて、従来手法を上回る精度と効率を実現する。

ABSTRACT

The ubiquitous presence of sequence data across fields such as the web, healthcare, bioinformatics, and text mining has made sequence mining a vital research area. However, sequence mining is particularly challenging because of difficulty in finding (dis)similarity/distance between sequences. This is because a distance measure between sequences is not obvious due to their unstructuredness---arbitrary strings of arbitrary length. Feature representations, such as n-grams, are often used but they either compromise on extracting both short- and long-term sequence patterns or have a high computation. We propose a new function, Sequence Graph Transform (SGT), that extracts the short- and long-term sequence features and embeds them in a finite-dimensional feature space. Importantly, SGT has low computation and can extract any amount of short- to long-term patterns without any increase in the computation, also proved theoretically in this paper. Due to this, SGT yields superior result with significantly higher accuracy and lower computation compared to the existing methods. We show it via several experimentation and SGT's real world application for clustering, classification, search and visualization as examples.

研究の動機と目的

• データマイニング応用における非構造的で可変長の系列間の（非）類似度を測定する課題に対処すること。
• n-gram のような従来の特徴抽出手法に見られる、パターンの保持性の損失または高い計算コストといった制限を克服すること。
• 計算複雑性を増加させることなく、短期間および長期の系列パターンを両方とも捉えることができる特徴抽出関数を開発すること。
• クラスタリング、分類、検索、可視化を含む多様な応用分野において、効率的かつ正確な系列マイニングを可能にすること。
• SGT のスケーラビリティおよび従来手法に対する性能優位性の理論的・実験的検証。

提案手法

• 系列を有限次元の特徴空間に変換する特徴抽出関数として、Sequence Graph Transform (SGT) を提案する。
• 系列に含まれる局所的（短期間）およびグローバル的（長期）なパターンを符号化する系列グラフ表現を構築する。
• グラフベースの変換を用いることで、さまざまな系列長にわたる構造的および順序的関係を保持する。
• 抽出するパターン数にかかわらず計算コストが一定となるように SGT 関数を設計し、スケーラビリティを確保する。
• 理論的分析により、SGT の計算複雑性が抽出するパターン数に依存せず、低く保たれることを証明する。
• 得られた特徴ベクトルを、下流の機械学習および類似度ベースのタスクに適した固定次元空間に埋め込む。

実験結果

リサーチクエスチョン

• RQ1 低計算コストで、可変長系列における短期間および長期のパターンを効率的に捉えることができる特徴抽出手法は存在するか？
• RQ2 SGT は、n-gram のような従来手法と比較して、系列マイニングタスクにおける精度および計算効率の面でどのように優れているか？
• RQ3 SGT は、計算コストを増加させることなく、任意長の系列にスケーリングできるか？
• RQ4 SGT は、クラスタリング、分類、系列データの可視化といった実世界の応用分野において、性能を向上させることができるか？
• RQ5 SGT の低複雑性特性の理論的基盤は、実際の系列マイニングワークロードにおいて検証可能で妥当なものか？

主な発見

• SGT は、系列分類およびクラスタリングタスクにおいて、従来手法よりも顕著に高い精度を達成する。
• 理論的に証明されたように、SGT は抽出する短期間および長期のパターン数にかかわらず、低計算コストを維持する。
• 特徴表現がコンパクトかつ有限次元であるため、効率的な系列検索および可視化が可能になる。
• 実験的評価により、SGT が複数の実世界の系列マイニング忢用分野で優れた性能を示すことが実証された。
• 計算コストの増加なしに、局所的およびグローバルな系列パターンを n-gram アプローチを上回って捉えることができる。
• 理論的分析により、SGT の計算複雑性が抽出パターン数に依存しないことが確認され、スケーラビリティが保証された。