[论文解读] Learning stochastic dynamical systems with neural networks mimicking the Euler-Maruyama scheme

Najoua Dridi, Lucas Drumetz+1 more|arXiv (Cornell University)|May 18, 2021

Model Reduction and Neural Networks参考文献 27被引用 6

一句话总结

该论文提出了一种基于神经网络的方法，通过模仿欧拉-丸山格式来学习随机微分方程（SDE），将漂移和扩散项均参数化为深度神经网络，并通过最大似然法进行训练。该方法在估计SDE时优于基线方法，尤其在高噪声条件下，能够准确捕捉随机洛伦兹-63模型和几何布朗运动中的混沌吸引子拓扑结构及随机波动。

ABSTRACT

Stochastic differential equations (SDEs) are one of the most important representations of dynamical systems. They are notable for the ability to include a deterministic component of the system and a stochastic one to represent random unknown factors. However, this makes learning SDEs much more challenging than ordinary differential equations (ODEs). In this paper, we propose a data driven approach where parameters of the SDE are represented by a neural network with a built-in SDE integration scheme. The loss function is based on a maximum likelihood criterion, under order one Markov Gaussian assumptions. The algorithm is applied to the geometric brownian motion and a stochastic version of the Lorenz-63 model. The latter is particularly hard to handle due to the presence of a stochastic component that depends on the state. The algorithm performance is attested using different simulations results. Besides, comparisons are performed with the reference gradient matching method used for non linear drift estimation, and a neural networks-based method, that does not consider the stochastic term.

研究动机与目标

• 开发一种从时间序列数据中学习未知漂移和扩散分量的随机动力系统的数据驱动方法。
• 解决在系统包含状态相关随机性且噪声水平较高的情况下估计SDE参数的挑战。
• 改进现有方法（如梯度匹配和基于ODE的神经网络），这些方法无法捕捉随机动力学。
• 将欧拉-丸山积分格式直接嵌入神经网络架构中，以实现稳定且可微的SDE模拟。
• 在具有状态相关噪声的合成系统（几何布朗运动）和复杂混沌系统（随机洛伦兹-63）上验证该方法。

提出的方法

• 使用两个独立的深度神经网络对SDE的漂移和扩散函数进行参数化（Bi-NN-SDE）。
• 在神经网络架构内使用可微的欧拉-丸山格式实现SDE的数值积分。
• 基于观测轨迹的一步 ahead 预测密度，采用最大似然准则进行网络训练。
• 基于状态转移的马尔可夫高斯假设定义似然函数以供优化。
• 通过时间反向传播优化损失，实现SDE参数的端到端训练。
• 与基线方法进行性能比较：标准Bi-NN（将SDE视为ODE）、梯度匹配法以及非随机神经网络。

实验结果

研究问题

• RQ1 一种将欧拉-丸山格式嵌入架构的神经网络能否比基于ODE或梯度匹配的方法更准确地学习具有状态依赖噪声的SDE？
• RQ2 在混沌系统中，该方法在不同噪声水平下对漂移和扩散分量的估计表现如何？
• RQ3 在高噪声条件下，该方法在多大程度上保持了真实随机吸引子的拓扑结构（例如洛伦兹-63中的蝴蝶结形状）？
• RQ4 与标准神经ODE相比，嵌入SDE积分格式是否能提升泛化能力和稳定性？
• RQ5 当物理上合理时，该方法能否有效识别扩散矩阵中的零系数，且不降低估计性能？

主要发现

• 在高噪声（γ=10）的随机洛伦兹-63模型中，Bi-NN-SDE方法在漂移和扩散估计上的平均RMSE为0.522，显著优于Bi-NN方法（RMSE = 0.601）。
• 与Bi-NN相比，Bi-NN-SDE方法将非零系数的RMSE降低了最多达38%，所有系数中最小降幅为8%。
• 在100次模拟轨迹中90%的情况下，Bi-NN-SDE正确再现了蝴蝶结形状的吸引子拓扑结构，而Bi-NN仅在60%的情况下成功。
• Bi-NN-SDE方法成功捕捉了随机波动，而Bi-NN和梯度匹配方法未能建模随机性，通常收敛至单一吸引子分支。
• 梯度匹配方法在不同训练轨迹中产生了不一致的吸引子，表明泛化能力差且缺乏随机保真度。
• 该方法对噪声具有鲁棒性，当噪声从γ=50增加到γ=10时，RMSE仅适度上升（从0.322增至0.601），同时保持了较低的估计方差。