[论文解读] Data-Driven Reduction for Multiscale Stochastic Dynamical Systems

Carmeline J. Dsilva, Ronen Talmon+3 more|arXiv (Cornell University)|Jan 21, 2015

Neural Networks and Applications参考文献 22被引用 8

一句话总结

该论文提出一种数据驱动方法，通过使用抑制快速动态的马氏距离度量的扩散映射，从多尺度随机动力系统中提取慢变量。通过从每个数据点附近的短时轨迹爆发中估计局部协方差，该方法能够稳健地恢复慢变量，即使在非线性观测函数下也适用，从而实现无需记忆项的降维，并支持跨多个传感器或测量类型的多源数据融合。

ABSTRACT

Multiple time scale stochastic dynamical systems are ubiquitous in science and engineering, and the reduction of such systems and their models to only their slow components is often essential for scientific computation and further analysis. Rather than being available in the form of an explicit analytical model, often such systems can only be observed as a data set which exhibits dynamics on several time scales. We will focus on applying and adapting data mining and manifold learning techniques to detect the slow components in such multiscale data. Traditional data mining methods are based on metrics (and thus, geometries) which are not informed of the multiscale nature of the underlying system dynamics; such methods cannot successfully recover the slow variables. Here, we present an approach which utilizes both the local geometry and the local dynamics within the data set through a metric which is both insensitive to the fast variables and more general than simple statistical averaging. Our analysis of the approach provides conditions for successfully recovering the underlying slow variables, as well as an empirical protocol guiding the selection of the method parameters.

研究动机与目标

• 开发一种在仅有数据而无解析模型的情况下，识别多尺度随机动力系统中慢变量的方法。
• 克服标准流形学习技术依赖欧氏距离且无法考虑数据中时间尺度分离的局限性。
• 构建一种对快速变量不敏感、并通过局部协方差估计捕捉内在慢动态的度量。
• 通过提取尊重底层慢动态的低维参数化，实现复杂系统的简化建模。
• 通过在不同观测函数或传感器之间创建不变坐标，支持多源数据融合。

提出的方法

• 该方法采用带有马氏距离度量的扩散映射，以突出慢变分量并抑制数据中的快速波动。
• 通过每个数据点周围短时轨迹爆发的局部协方差矩阵估计，定义马氏距离度量。
• 马氏距离通过考虑局部方差结构，压缩快速方向，使度量对快速动态不敏感。
• 通过调节核尺度参数 $\sigma_{\text{kernel}}$ 和积分时间 $\delta t$，确保第一个扩散映射坐标能捕捉到慢变量。
• 该方法对非线性观测函数具有不变性，可将不同传感器或测量类型的数据融合到同一坐标系中。
• 提供了一种经验协议，用于根据 $\|\mathbf{C}\|$ 和 $\|\mathbf{E}_C\|$ 的相对大小选择 $\delta t$ 和 $\sigma_{\text{kernel}}$。

实验结果

研究问题

• RQ1 当仅有时间序列数据可用时，数据驱动方法能否恢复多尺度随机动力系统中的真实慢变量？
• RQ2 如何设计一种对快速变量不敏感但能保持慢流形内在几何结构的度量？
• RQ3 在什么条件下，第一个扩散映射坐标能对应于真实慢变量？
• RQ4 应如何选择参数 $\delta t$ 和 $\sigma_{\text{kernel}}$ 以成功恢复慢变量？
• RQ5 该方法能否应用于来自多个传感器或观测函数的数据，实现在同一坐标系中的多源数据融合？

主要发现

• 马氏距离能有效压缩数据中的快速方向，当用于扩散映射时，可实现对慢变量的精确恢复。
• 当 $\|\mathbf{E}_C\| \ll \|\mathbf{C}\|$ 时，第一个扩散映射坐标与真实慢变量对齐，表明实现了成功的恢复。
• 当 $\delta t = 10^{-7}$ 且 $\sigma_{\text{kernel}}^2 = 10^{-2}$ 时，该方法在一一对一的映射下恢复了慢变量，如图9(a)所示。
• 当 $\delta t = 10^{-3}$ 或 $\sigma_{\text{kernel}}^2 = 10^1$ 时，由于参数选择不当，该方法无法恢复慢变量。
• 该方法对非线性观测函数具有不变性，可将不同传感器的数据合并为单一参数化表示。
• 有限采样效应和数据密度限制了 $\delta t$ 和 $\sigma_{\text{kernel}}$ 的选择，提示需在有限样本条件下进一步分析。