[论文解读] Neural Network Adaptive Control with Long Short-Term Memory

Emirhan Inanc, Yiğit Gürses+3 more|arXiv (Cornell University)|Jan 5, 2023

Neural Networks and Applications被引用 6

一句话总结

本文提出了一种新颖的自适应控制架构，将自适应神经网络（ANN）控制器与长短期记忆（LSTM）网络相结合，显著提升了瞬态响应性能。LSTM通过利用控制误差信号中的序列依赖关系，实时预测并补偿突发的不确定性变化，从而实现更快、更稳定的系统响应，同时不降低稳态性能。

ABSTRACT

In this study, we propose a novel adaptive control architecture, which provides dramatically better transient response performance compared to conventional adaptive control methods. What makes this architecture unique is the synergistic employment of a traditional, Adaptive Neural Network (ANN) controller and a Long Short-Term Memory (LSTM) network. LSTM structures, unlike the standard feed-forward neural networks, can take advantage of the dependencies in an input sequence, which can contain critical information that can help predict uncertainty. Through a novel training method we introduced, the LSTM network learns to compensate for the deficiencies of the ANN controller during sudden changes in plant dynamics. This substantially improves the transient response of the system and allows the controller to quickly react to unexpected events. Through careful simulation studies, we demonstrate that this architecture can improve the estimation accuracy on a diverse set of uncertainties for an indefinite time span. We also provide an analysis of the contributions of the ANN controller and LSTM network to the control input, identifying their individual roles in compensating low and high-frequency error dynamics. This analysis provides insight into why and how the LSTM augmentation improves the system's transient response. The stability of the overall system is also shown via a rigorous Lyapunov analysis.

研究动机与目标

• 解决传统自适应神经网络控制器在突发不确定性变化下瞬态响应性能差的问题。
• 利用LSTM网络的序列记忆能力，预测并补偿高频误差动态。
• 开发一种考虑系统动态和反馈的闭环训练方法，以提升LSTM的鲁棒性。
• 通过严格的李雅普诺夫分析确保系统稳定性，同时保持ANN的自适应学习能力。
• 展示ANN（低频补偿）与LSTM（高频预测）在控制输入生成中的互补作用。

提出的方法

• 将自适应神经网络（ANN）控制器与长短期记忆（LSTM）网络集成，形成混合控制架构。
• 在闭环设置中训练LSTM，使用归一化跟踪误差和控制输入速率饱和作为输入，以学习瞬态误差补偿。
• 采用改进的LSTM输入向量：[e_norm1, e_norm2, e_norm3, u_r]，其中u_r编码速率饱和状态（±0.1或0）。
• 应用一种新型训练程序，通过模拟不确定性切换并捕捉动态误差序列，以提升预测能力。
• 将总控制输入分解为ANN与LSTM组件的贡献，以分析其在误差补偿中的各自作用。
• 通过严格的李雅普诺夫分析证明系统稳定性，确保在所提出的控制律下所有信号有界。

实验结果

研究问题

• RQ1 LSTM网络能否在突发不确定性变化下有效改善自适应神经网络控制器的瞬态响应？
• RQ2 ANN与LSTM组件在控制输入中如何不同地发挥作用——特别是在处理低频与高频误差动态方面？
• RQ3 在包含实时反馈和饱和信息的闭环环境中训练LSTM，是否能带来更鲁棒、更平滑的控制性能？
• RQ4 LSTM增强在多大程度上减少了突变不确定性切换期间的振荡，并提升了跟踪精度？
• RQ5 所提出的架构在控制输入饱和条件下，尤其是当LSTM生成剧烈瞬态指令时，能否保持稳定性和性能？

主要发现

• 在经历大幅不确定性切换时，LSTM增强控制器显著减少了瞬态振荡，尤其在俯仰率跟踪中表现明显。
• 在高不确定性场景下，LSTM产生大而快速的控制信号，导致饱和，但相比仅使用ANN的基线控制器，其带来了更好的阻尼效果和更快的恢复速度。
• 当使用速率限制信息进行训练时，LSTM生成更平滑、更敏捷的补偿，减少了总控制输入中的高频振荡。
• ANN控制器主要处理低频不确定性分量，而LSTM则专注于预测并补偿高频误差动态。
• 通过严格的李雅普诺夫稳定性分析证明，系统在所提出的控制律下保持稳定。
• 仿真结果表明，LSTM网络能够学习预测并抵消瞬态误差动态，从而在无限时间跨度内提升估计精度。