[論文レビュー] Learning stochastic differential equations using RNN with log signature features

Shujian Liao, Terry Lyons+2 more|arXiv (Cornell University)|Aug 22, 2019

Time Series Analysis and Forecasting参考文献 43被引用数 31

ひとこと要約

本論文では、再帰的ニューラルネットワーク（RNN）と対数シグネチャ特徴量を組み合わせたハイブリッド深層学習モデル、Logsig-RNNを提案する。このモデルは、ストリーミングで得られるマルチモーダルなデータの関数的特徴を学習することを目的としている。リッチ・パス理論の数学的堅牢性と対数シグネチャ表現の効率性を活用することで、合成データ、スケルタルアクション、ジェスチャー認識のデータセットにおいて、優れた精度、高速な学習、高周波数でノイジーな、または欠損のあるデータに対する強靭性を達成している。

ABSTRACT

This paper contributes to the challenge of learning a function on streamed multimodal data through evaluation. The core of the result of our paper is the combination of two quite different approaches to this problem. One comes from the mathematically principled technology of signatures and log-signatures as representations for streamed data, while the other draws on the techniques of recurrent neural networks (RNN). The ability of the former to manage high sample rate streams and the latter to manage large scale nonlinear interactions allows hybrid algorithms that are easy to code, quicker to train, and of lower complexity for a given accuracy. We illustrate the approach by approximating the unknown functional as a controlled differential equation. Linear functionals on solutions of controlled differential equations are the natural universal class of functions on data streams. Following this approach, we propose a hybrid Logsig-RNN algorithm that learns functionals on streamed data. By testing on various datasets, i.e. synthetic data, NTU RGB+D 120 skeletal action data, and Chalearn2013 gesture data, our algorithm achieves the outstanding accuracy with superior efficiency and robustness.

研究の動機と目的

• 高周波数で、マルチモーダルで、不規則にサンプリングされたデータストリーム上の関数的特徴を学ぶという課題に対処すること。
• 標準的なRNNが高レート、微分不能、または高周波で振動するデータストリームを処理する際の限界を克服すること。
• 制御された微分方程式の数学的厳密性とRNNの表現力の両方を組み合わせることで、データストリーム上の関数的特徴を学ぶ普遍的なモデルを開発すること。
• 対数シグネチャ変換による時間次元の次元削減を通じて、学習の効率性と強靭性を向上させること。
• 最小限のデータ拡張で、実世界のアクション認識およびジェスチャー認識タスクにおいて優れた性能を示すこと。

提案手法

• 高周波数時系列を、高次元から低次元の情報豊富な表現に圧縮するための対数シグネチャ変換を用い、重要なパス特性を保持する。
• RNNの前処理ステップとして対数シグネチャ層を統合し、ネットワークが生の時系列サンプルの代わりに粗いスケールのパスに頑健な特徴を処理できるようにする。
• リッチ・パス理論を活用して、入力パスが微分不能または高周波で振動しても、安定性と精度を保証する。
• 勾配降下法を用いてエンドツーエンドでハイブリッドLogsig-RNNモデルを学習し、過学習を防ぐために埋め込み層およびLSTM層の両方にドロップアウト層を適用する。
• 一般化を向上させるために、小さな回転、時間シフト、ガウスノイズを含むデータ拡張技術を適用する。
• LSTMに供給する前に、空間的・時間的特徴を階層的に抽出するための、Conv2D、Conv1D、および対数シグネチャ層の系列を用いる。

実験結果

リサーチクエスチョン

• RQ1 対数シグネチャ特徴量は、低次元かつ頑健な方法で、複雑で高周波数のデータストリームを効果的に表現できるか？
• RQ2 RNNと対数シグネチャ特徴量を組み合わせることで、標準的なRNNと比較して、関数的特徴学習タスクの性能がどのように向上するか？
• RQ3 Logsig-RNNモデルは、高周波数サンプリング、欠損データ、ノイズの多い入力の下でも、精度と効率をどの程度維持できるか？
• RQ4 このハイブリッドモデルは、スケルタルシーケンスや合成SDEなど、多様なデータモダリティに一般化できるか？
• RQ5 対数シグネチャの使用により、収束が速くなり、モデルの複雑さが低下しながらも高い精度を維持できるか？

主な発見

• Logsig-RNNモデルは、NTU RGB+D 120アクション認識データセットで最先端の精度を達成し、標準的なRNNベースラインを上回っている。
• 欠損データに対して優れた強靭性を示しており、対数シグネチャ特徴量が生のシグネチャ特徴量よりもより耐性があることが実証された。
• 対数シグネチャ変換による時間次元の次元削減のおかげで、学習時間が著しく短縮され、収束が速くなった。
• 標準的なRNNが重度の拡張やダウンサンプリングを施さない限り失敗するような、高周波で振動するデータストリームに対しても、このモデルは高い性能を維持している。
• 最小限のデータ拡張で、39フレーム/クリップという少ないフレーム数でも、Chalearn2013ジェスチャー認識タスクで強い結果を達成した。
• 理論的分析により、制御された微分方程式の解に対する線形関数的特徴が、データストリーム上の関数的特徴を学ぶための普遍クラスを形成することが確認され、モデル設計の正当性が裏付けられた。