[论文解读] Deep Lyapunov Function: Automatic Stability Analysis for Dynamical Systems

Arash Mehrjou, Bernhard Schölkopf|arXiv (Cornell University)|Jan 24, 2019

Model Reduction and Neural Networks参考文献 6被引用 7

一句话总结

本文提出深度李雅普诺夫函数（DELF），一种基于深度学习的方法，通过训练深度神经网络以满足李雅普诺夫稳定性条件，从而自动发现动力系统的李雅普诺夫函数。该方法使用随机梯度下降最小化损失函数，以确保函数的正定性及其沿系统轨迹的时间导数的负定性，从而实现对解析构造李雅普诺夫函数不可行的非线性系统的自动稳定性分析。

ABSTRACT

Stability analysis plays a crucial role in studying the behavior of dynamical systems with theoretical and engineering applications. Among various kinds of stability, the stability of equilibrium points is of the greatest importance which is mainly studied by Lyapunov's stability theory. This theory requires finding a function with specified properties. Except for a few simple examples, there is no straightforward constructive algorithm to find a Lyapunov function for an arbitrary dynamical system. The goal of this work is proposing a simple yet effective way to approximate this function using deep learning tools.

研究动机与目标

• 为解决长期存在的非线性动力系统李雅普诺夫函数构造难题，该问题缺乏通用的构造方法。
• 开发一种可扩展的、数据驱动的稳定性分析方法，避免手动设计李雅普诺夫函数的需求。
• 利用深度神经网络作为通用函数逼近器，在高维状态空间中搜索有效的李雅普诺夫函数。
• 提供一种实用的、基于经验的方法，通过随机优化评估自治动力系统的局部渐近稳定性。

提出的方法

• 使用参数 $ \theta $ 的深度神经网络参数化候选李雅普诺夫函数 $ \hat{V}(x;\theta) $。
• 定义损失函数 $ \mathcal{L}(x;\theta) = h_1(\hat{V}) + h_2(\nabla_x \hat{V}^T f(x)) $，其中 $ h_1 $ 确保正定性，$ h_2 $ 确保导数的负定性。
• 使用随机梯度下降在有界区域 $ D_r $ 内随机采样的点上最小化期望损失。
• 使用分辨率为 $ \delta $ 的均匀采样生成训练数据，样本数量按 $ N \sim (2r/\delta)^d $ 缩放。
• 将优化过程视为在所有可能函数空间中的搜索，假设网络容量足够。
• 在通用逼近器假设下，将损失无法收敛至零解释为系统不稳定的证据。

实验结果

研究问题

• RQ1 深度学习能否有效用于发现非线性动力系统中解析构造不可行的李雅普诺夫函数？
• RQ2 深度神经网络在多大程度上能逼近满足必要正定性和负导数条件的李雅普诺夫函数？
• RQ3 该方法在识别不同维度下的稳定与不稳定系统时，其经验性能如何？
• RQ4 当优化过程无法收敛至零损失时，是否能可靠地指示底层动力系统的不稳定性？
• RQ5 在理论保证有限的情况下，该方法在多大程度上能提供可靠的稳定性洞察？

主要发现

• 该方法成功识别出多个二维和三维稳定动力系统的有效李雅普诺夫函数，$ \bar{V} $ 在采样轨迹上始终保持正定，$ \bar{\dot{V}} $ 始终保持负定。
• 对于不稳定系统，优化过程未能使损失降至零，且 $ \bar{V} $ 和 $ \bar{\dot{V}} $ 的轨迹未表现出一致的符号模式，表明不存在有效的李雅普诺夫函数。
• 该方法在多种系统类型中表现出鲁棒性，包括非线性、耦合及非物理系统，表明其具有广泛适用性。
• 该方法的经验成功支持了深度网络可在高维空间中有效搜索李雅普诺夫函数的假设。
• 在不稳定情况下无法收敛至零损失，与理论预期一致，表明该方法可在不存在此类函数时检测出不稳定性。
• 该方法为复杂系统提供了一种实用且可扩展的替代方案，避免了手动构造李雅普诺夫函数的繁琐过程。