[论文解读] Stability Analysis using Quadratic Constraints for Systems with Neural Network Controllers

He Yin, Peter Seiler+1 more|arXiv (Cornell University)|Jun 13, 2020

Fault Detection and Control Systems参考文献 27被引用 14

一句话总结

本文提出了一种基于二次约束（QC）的反馈系统稳定性分析框架，适用于神经网络（NN）控制器。该方法结合李雅普诺夫理论与局部扇区约束和滞后一阶积分二次约束（IQCs），以证明渐近稳定性并计算吸引域（ROA）的椭球内近似，通过半定规划（SDP）实现可扩展计算。主要贡献在于提出一种鲁棒分析方法，利用动态IQCs收紧对NN激活函数的边界，提升ROA估计精度，并支持在执行器饱和和时延等系统不确定性下的分析。

ABSTRACT

A method is presented to analyze the stability of feedback systems with neural network controllers. Two stability theorems are given to prove asymptotic stability and to compute an ellipsoidal inner-approximation to the region of attraction (ROA). The first theorem addresses linear time-invariant systems, and merges Lyapunov theory with local (sector) quadratic constraints to bound the nonlinear activation functions in the neural network. The second theorem allows the system to include perturbations such as unmodeled dynamics, slope-restricted nonlinearities, and time delay, using integral quadratic constraint (IQCs) to capture their input/output behavior. This in turn allows for off-by-one IQCs to refine the description of activation functions by capturing their slope restrictions. Both results rely on semidefinite programming to approximate the ROA. The method is illustrated on systems with neural networks trained to stabilize a nonlinear inverted pendulum as well as vehicle lateral dynamics with actuator uncertainty.

研究动机与目标

• 解决由于神经网络控制器复杂非线性结构导致的反馈系统中缺乏正式稳定性与安全性证书的问题。
• 开发一种系统化方法，以证明渐近稳定性并计算NN控制器系统的吸引域（ROA）内近似。
• 通过积分二次约束（IQCs）将稳定性分析扩展至具有未建模动态、时延和斜率受限非线性性的不确定性系统。
• 通过引入动态滞后一阶IQCs替代静态扇区边界，改进激活函数边界紧致性，降低保守性。
• 通过IQC建模扰动实现执行器不确定性与饱和的鲁棒性分析，并求解相应的SDP。

提出的方法

• 使用以平衡点输入为中心的局部（扇区）二次约束，对NN控制器中非线性激活函数进行边界约束，从而支持基于李雅普诺夫的稳定性分析。
• 将稳定性条件表述为半定规划（SDP），以计算吸引域（ROA）的椭球内近似。
• 利用积分二次约束（IQCs）对系统扰动（如未建模动态、时延和斜率受限非线性）进行建模，以捕捉其输入/输出行为。
• 引入滞后一阶IQCs，通过捕捉激活函数的斜率限制，更精确地描述其特性，从而获得比静态扇区QC更紧的边界。
• 将IQC分析集成至SDP框架中，以实现对不确定系统的鲁棒性认证，包括LTI扰动和执行器饱和。
• 应用区间边界传播（IBP）推导NN控制器的非保守局部静态与动态IQCs，利用其结构特性。

实验结果

研究问题

• RQ1 我们能否使用李雅普诺夫理论与二次约束，正式证明具有神经网络控制器的反馈系统的渐近稳定性？
• RQ2 如何计算NN控制器系统吸引域（ROA）的保守但可计算的内近似？
• RQ3 与静态扇区QC相比，滞后一阶IQCs在多大程度上能提升激活函数边界的紧致性？
• RQ4 所提出的框架在保持稳定性保证的前提下，能否处理诸如时延、执行器饱和和未建模动态等系统不确定性？
• RQ5 在实际应用中，引入动态IQCs如何影响所计算的ROA内近似大小与保守性？

主要发现

• 在车辆侧向控制示例中，使用滞后一阶IQCs后，ROA椭球的迹从4.4降低至2.9，表明吸引域近似更紧致、更精确。
• ROA矩阵的逆矩阵行列式从3.2×10⁵增加至1.1×10⁶，表明使用滞后一阶IQCs后，ROA内近似的体积提高了3.4倍。
• 输入边界δv的SDP可行性阈值从仅使用扇区IQC时的0.67提升至使用滞后一阶IQC时的1.4，表明鲁棒性增强，对更大输入不确定性的容忍度提高。
• 该方法成功认证了稳定性，并为具有执行器不确定性的非线性倒立摆和车辆侧向动力学系统计算了ROA内近似。
• 通过IQC建模扰动，该框架实现了对非LTI系统的分析，突破了经典LTI假设的限制。
• 结果表明，动态IQCs显著降低了稳定性分析中的保守性，尤其在结合区间边界传播以推导NN激活函数的紧致局部约束时效果更为明显。