[论文解读] Contraction analysis of nonlinear random dynamical systems

Nicolas Tabareau, Jean-Jacques Slotine|arXiv (Cornell University)|Sep 20, 2013

Control and Stability of Dynamical Systems参考文献 2被引用 4

一句话总结

本文通过引入两种新的稳定性概念——几乎 surely 收缩与均方收缩，将收缩理论扩展至非线性随机微分系统。它建立了在噪声下指数收敛的充分条件，使得能够使用标准微分分析工具分析随机梯度下降、振子同步以及噪声环境下的系统组合特性。

ABSTRACT

In order to bring contraction analysis into the very fruitful and topical fields of stochastic and Bayesian systems, we extend here the theory describes in \cite{Lohmiller98} to random differential equations. We propose new definitions of contraction (almost sure contraction and contraction in mean square) which allow to master the evolution of a stochastic system in two manners. The first one guarantees eventual exponential convergence of the system for almost all draws, whereas the other guarantees the exponential convergence in $L_2$ of to a unique trajectory. We then illustrate the relative simplicity of this extension by analyzing usual deterministic properties in the presence of noise. Specifically, we analyze stochastic gradient descent, impact of noise on oscillators synchronization and extensions of combination properties of contracting systems to the stochastic case. This is a first step towards combining the interesting and simplifying properties of contracting systems with the probabilistic approach.

研究动机与目标

• 通过将确定性收缩理论扩展至随机微分方程，填补非线性随机系统稳定性分析工具的空白。
• 提出两种新的随机收缩定义——几乎 surely 收缩与均方收缩，以捕捉噪声下的不同收敛行为。
• 通过确保随机微分方程可实现的仿真，使噪声系统实际稳定性分析成为可能，避免 Itô 微积分的局限性。
• 展示该框架在关键问题中的适用性，如随机梯度下降、振子同步以及噪声下的系统组合。
• 通过提供计算上可行的稳定性条件，弥合收缩系统简化性质与概率建模之间的差距。

提出的方法

• 使用右连续左极限（cadlag）随机过程定义离散时间与连续时间的随机微分系统，以确保轨迹可实现。
• 提出“几乎 surely 收缩”作为条件，基于雅可比矩阵的谱性质，保证几乎所有样本路径均指数收敛。
• 引入“均方收缩”以确保在 L2 意义下向唯一轨迹指数收敛，通过状态偏差期望范数的界来实现。
• 将该理论应用于随机梯度下降，证明在噪声有界且雅可比矩阵负定的条件下，期望轨迹指数收敛。
• 通过建模具有随机耦合项的耦合范德波尔振子，分析振子同步，证明当期望耦合强度超过阈值时可实现同步。
• 使用参数变易法与 Gronwall 型不等式，对有界噪声下轨迹间期望偏差进行上界估计，实现稳定性量化。

实验结果

研究问题

• RQ1 如何将收缩理论扩展至非线性随机微分系统，以分析噪声下的稳定性？
• RQ2 在噪声存在下，应如何定义随机收缩，以确保有意义的收敛性质？
• RQ3 该框架能否应用于分析随机梯度下降，并在梯度噪声存在下保证收敛？
• RQ4 加性噪声如何影响耦合振子的同步性？收缩理论能否预测该行为？
• RQ5 收缩系统的组合性质能否推广至随机情形，同时在随机扰动下保持稳定性？

主要发现

• 几乎 surely 收缩确保系统所有样本路径在雅可比矩阵最大特征值一致为负的条件下，指数收敛至同一轨迹。
• 均方收缩保证在 L2 意义下向唯一轨迹指数收敛，且期望偏差被一个与噪声幅度成比例的项所界定。
• 对于具有有界噪声的随机梯度下降，当目标函数的 Hessian 矩阵特征值一致为负定时，期望轨迹指数收敛。
• 在耦合范德波尔振子中，当期望耦合强度超过 1 时，即使存在显著噪声，系统仍可几乎 surely 实现同步。
• 在有界噪声下，两条轨迹间的偏差被一个包含噪声水平与收缩率的项一致有界，该界由 Gronwall 不等式导出。
• 该框架允许使用标准 ODE 求解器对噪声系统进行实际仿真与分析，避免了 Itô 微积分的理论局限性。