[論文レビュー] Computing the untruncated signature kernel as the solution of a Goursat problem

Thomas Cass, James Foster+3 more|arXiv (Cornell University)|Jun 26, 2020

Anomaly Detection Techniques and Applications参考文献 15被引用数 2

ひとこと要約

本稿では、非切断シグネチャーカーネルを用いた時系列データ向けのカーネル法を提案する。これは、経路の増分にのみ依存する線形双曲型偏微分方程式（Goursat問題）として解けることにより、明示的なシグネチャー計算を伴わずに効率的な計算が可能になる。この手法は幾何学的粗いパスへと拡張され、時系列分類および次元削減において優れた性能を示す。

ABSTRACT

Recently there has been an increased interest in the development of kernel methods for learning with sequential data. The truncated signature kernel is a new learning tool designed to handle irregularly sampled, multidimensional data streams. In this article we consider the untruncated signature kernel and show that for paths of bounded variation it is the solution of a Goursat problem. This linear hyperbolic PDE only depends on the increments of the input sequences, doesn't require the explicit computation of signatures and can be solved using any PDE numerical solver; it is a kernel trick for the untruncated signature kernel. In addition, we extend the analysis to the space of geometric rough paths, and establish using classical results from stochastic analysis that the rough version of the untruncated signature kernel solves a rough integral equation analogous to the Goursat problem for the bounded variation case. Finally we empirically demonstrate the effectiveness of this kernel in two data science applications: multivariate time-series classification and dimensionality reduction.

研究の動機と目的

• 非切断シグネチャー・カーネルの計算を、無限次元のシグネチャーが計算不能であるために困難であるが、効率的な計算手法を開発すること。
• 有界変動経路における非切断シグネチャー・カーネルが、線形双曲型偏微分方程式（Goursat問題）の解として表現可能であることを示し、標準的なPDEソルバーを用いた数値的解法を可能にすること。
• 確率解析を用いて、Goursat問題の類似物としての粗い積分方程式を導出し、幾何学的粗いパスへのフレームワークの拡張を実現すること。
• 提案手法の有効性を、多次元時系列分類および次元削減タスクにおいて実証的に検証すること。

提案手法

• 入力経路の増分にのみ依存する線形双曲型偏微分方程式（Goursat問題）として、非切断シグネチャー・カーネルを定式化する。
• 標準的な数値的PDEソルバーを活用し、無限次元のシグネチャーを明示的に計算することなくカーネルを計算する。
• 古典的な確率解析の結果を用いて、Goursat定式化を幾何学的粗いパスへと拡張し、カーネルの粗い積分方程式を導出する。
• 得られたカーネルを、分類および次元削減タスクにおけるカーネルベースの学習モデルに適用し、標準的な機械学習パイプラインを用いる。

実験結果

リサーチクエスチョン

• RQ1 非切断シグネチャー・カーネルは、明示的なシグネチャー計算を伴わず、効率的に計算可能か？
• RQ2 有界変動経路における非切断シグネチャー・カーネルは、Goursat問題など既知のPDEクラスの解と等価か？
• RQ3 このフレームワークは、有界変動経路から幾何学的粗いパスへとどのように拡張可能か？
• RQ4 提案されたカーネルは、多次元時系列分類および次元削減において、既存手法を上回る性能を示すか？

主な発見

• 有界変動経路における非切断シグネチャー・カーネルは、数学的にGoursat問題の解と等価であり、効率的な数値的計算が可能である。
• PDEソルバーに依存することで、シグネチャーの明示的評価を回避し、計算コストを著しく削減できる。
• 幾何学的粗いパスでは、滑らかさのケースにおけるGoursat問題と類似した粗い積分方程式が、非切断シグネチャー・カーネルを満たす。
• 実験的結果から、このカーネルは多次元時系列分類および次元削減において優れた性能を示し、実用的価値を有することが明らかになった。