[论文解读] Learning stochastic differential equations using RNN with log signature features

Shujian Liao, Terry Lyons+2 more|arXiv (Cornell University)|Aug 22, 2019

Time Series Analysis and Forecasting参考文献 43被引用 31

一句话总结

本文提出 Logsig-RNN，一种混合深度学习模型，结合循环神经网络（RNNs）与对数签名特征，以学习流式多模态数据上的泛函。通过利用粗糙路径理论的数学稳健性以及对数签名表示的高效性，该模型在合成数据、骨骼动作和手势识别数据集上均实现了更高的准确性、更快的训练速度，并展现出对高频、噪声或缺失数据的更强鲁棒性。

ABSTRACT

This paper contributes to the challenge of learning a function on streamed multimodal data through evaluation. The core of the result of our paper is the combination of two quite different approaches to this problem. One comes from the mathematically principled technology of signatures and log-signatures as representations for streamed data, while the other draws on the techniques of recurrent neural networks (RNN). The ability of the former to manage high sample rate streams and the latter to manage large scale nonlinear interactions allows hybrid algorithms that are easy to code, quicker to train, and of lower complexity for a given accuracy. We illustrate the approach by approximating the unknown functional as a controlled differential equation. Linear functionals on solutions of controlled differential equations are the natural universal class of functions on data streams. Following this approach, we propose a hybrid Logsig-RNN algorithm that learns functionals on streamed data. By testing on various datasets, i.e. synthetic data, NTU RGB+D 120 skeletal action data, and Chalearn2013 gesture data, our algorithm achieves the outstanding accuracy with superior efficiency and robustness.

研究动机与目标

• 解决在高频、多模态且可能不规则采样的数据流上学习泛函的挑战。
• 克服标准 RNN 在处理高采样率、不可微或高度振荡的数据流时的局限性。
• 通过结合控制微分方程的数学严谨性与 RNN 的表征能力，构建适用于数据流上泛函的通用模型。
• 通过利用对数签名变换降低时间维度，提升训练效率与鲁棒性。
• 在真实世界动作与手势识别任务中展示优越性能，且数据增强需求极少。

提出的方法

• 使用对数签名变换将高频时间序列压缩为低维、信息丰富的表示，同时保留关键路径特征。
• 将对数签名层作为 RNN 之前的预处理步骤，使网络能够处理粗粒度、路径鲁棒的特征，而非原始时间序列样本。
• 借助粗糙路径理论，确保在输入路径不可微或高度振荡时仍保持稳定与准确。
• 使用梯度下降端到端训练混合的 Logsig-RNN 模型，并在嵌入层与 LSTM 层中应用 Dropout 层以防止过拟合。
• 应用数据增强技术，包括小幅度旋转、时间偏移和高斯噪声，以提升泛化能力。
• 使用一系列 Conv2D、Conv1D 和对数签名层，提取分层时空特征后输入 LSTM。

实验结果

研究问题

• RQ1 对数签名特征是否能以低维、鲁棒的方式有效表征复杂、高频的数据流？
• RQ2 将 RNN 与对数签名特征结合，相较于标准 RNN，在泛函学习任务上的性能提升程度如何？
• RQ3 Logsig-RNN 模型在高频采样、数据缺失或噪声输入下，能否保持准确性和效率？
• RQ4 该混合模型是否能在不同数据模态（如骨骼序列与合成 SDE）间实现良好泛化？
• RQ5 使用对数签名是否能实现更快收敛与更低模型复杂度，同时保持高准确性？

主要发现

• Logsig-RNN 模型在 NTU RGB+D 120 动作识别数据集上达到最先进准确率，优于标准 RNN 基线模型。
• 模型对缺失数据表现出卓越鲁棒性，对数签名特征相较于原始签名特征更具抗性。
• 由于通过对数签名变换实现时间维度压缩，训练时间显著缩短，从而实现更快收敛。
• 在高度振荡的数据流上，模型保持高性能，而标准 RNN 除非经过大量增强或下采样，否则无法有效处理。
• 在 Chalearn2013 手势识别任务中，仅使用每剪辑 39 帧，且数据增强极少，模型仍取得强劲结果。
• 理论分析证实，控制微分方程解上的线性泛函构成数据流上泛函的通用类，从而为模型设计提供了理论依据。