[論文レビュー] Time Series Featurization via Topological Data Analysis

Kwang Ho Kim, Jisu Kim+1 more|arXiv (Cornell University)|Dec 7, 2018

Topological and Geometric Data Analysis参考文献 56被引用数 12

ひとこと要約

本稿では、時系列データのノイズ耐性を向上させるために、時間遅延埋め込み、PCAに基づくノイズ除去、および持続的ランダムネス/シャドウ特徴を組み合わせた、トポロジカル・データ解析（TDA）を用いた新しい時系列特徴抽出手法を提案する。この手法は、サンプリングノイズに対して安定であり、合成データおよび実世界のデータにおける時系列予測およびパターン分類タスクで優れた性能を示す。

ABSTRACT

We develop a novel algorithm for feature extraction in time series data by leveraging tools from topological data analysis. Our algorithm provides a simple, efficient way to successfully harness topological features of the attractor of the underlying dynamical system for an observed time series. The proposed methodology relies on the persistent landscapes and silhouette of the Rips complex obtained after a de-noising step based on principal components applied to a time-delayed embedding of a noisy, discrete time series sample. We analyze the stability properties of the proposed approach and show that the resulting TDA-based features are robust to sampling noise. Experiments on synthetic and real-world data demonstrate the effectiveness of our approach. We expect our method to provide new insights on feature extraction from granular, noisy time series data.

研究の動機と目的

• 従来のi.i.d.に基づく特徴工学の限界を、強い時系列依存性とノイズの多い細粒度時系列データに対して解決すること。
• 既知のデータ生成プロセスを仮定せずに、時系列からトポロジカル特徴を体系的かつ理論的根拠に基づき抽出するための方法を開発すること。
• PCAに基づくノイズ除去をTDAパイプラインに統合することで、サンプリングノイズに対する耐性を高めること。
• 時系列データから導出されるTDA特徴の理論的安定性保証を確立すること。
• 本手法の実用的有用性を、時系列予測および複雑なパターン認識タスクにおいて実証すること。

提案手法

• 時系列の状態空間を再構築するために、時間遅延埋め込みを適用し、点群に変換する。
• 主成分分析（PCA）を用いて、埋め込まれた点群をノイズ除去し、重要なトポロジカル特徴を保持しながらホモロジカルノイズを低減する。
• ノイズ除去された点群からリプス複体を構築し、潜在的なアトラクタのトポロジカル構造をモデル化する。
• 持続的ホモロジーを計算し、持続的ランダムネス関数およびシャドウ関数をトポロジカル特徴として導出する。
• 安定性定理を活用し、入力データの小さな摂動がトポロジカル特徴に有界な変化をもたらすことを保証する。
• 下流の機械学習タスク用に、ランダムネス関数およびシャドウ関数の$L_\infty$-ノルムを最終特徴として使用する。

実験結果

リサーチクエスチョン

• RQ1 持続的ホモロジーを用いて抽出されたトポロジカル特徴は、ノイズが多く、細粒度な時系列データに対して、安定的かつ情報豊富な表現を提供できるか？
• RQ2 PCAに基づくノイズ除去は、時系列データにおける意味のあるトポロジカル特徴の保存にどのように影響するか？
• RQ3 TDA特徴は、時系列のサンプリングノイズおよび摂動に対して、どの程度安定しているか？
• RQ4 提案手法は、従来の特徴工学手法よりも、時系列予測およびパターン分類タスクで優れた性能を示せるか？
• RQ5 時系列から導出されたTDA特徴に対して、どのような理論的保証を確立できるか？

主な発見

• 提案手法は、サンプリングノイズに対して安定なトポロジカル特徴を達成しており、ボトルネック距離が$\sqrt{m}\|\epsilon\|_{\infty} + \frac{2m^{3/2}L_f T \|\epsilon\|_{\infty}(2L_f T + \|\epsilon\|_{\infty})}{\lambda_{\tilde{l}}} + \frac{\sqrt{m}L_f T}{N}$で有界であることが示された。
• $L_\infty$-ノルムの持続的ランダムネス関数およびシャドウ関数は摂動に対して安定であり、入力時系列のノイズ耐性を保証する。
• PCAに基づくノイズ除去は、顕著なトポロジカル特徴を効果的に保持しながらホモロジカルノイズをフィルタリングし、特徴の質を向上させる。
• 合成データおよび実世界のデータに対する実験により、単一予測および複雑なパターン分類タスクにおける本手法の有効性が確認された。
• 理論的分析により、本手法のTDA特徴がノイズに対して耐性を示し、信号のリプシッツ定数およびPCA部分空間のスペクトルギャップに依存する安定性バウンドが確立された。
• Betti数に依存するベースライン手法や直感的な可視化に頼る手法よりも、本手法はより体系的かつ理論的根拠に基づいた特徴抽出パイプラインを提供する。