[论文解读] Large Scale Model Predictive Control with Neural Networks and Primal Active Sets

Steven W. Chen, Tianyu Wang+3 more|arXiv (Cornell University)|Oct 23, 2019

Advanced Control Systems Optimization被引用 9

一句话总结

本文提出了一种混合显式-隐式模型预测控制（MPC）框架，利用全连接ReLU神经网络为在线原始活动集求解器提供热启动，确保递归可行性与渐近稳定性。该方法在包含数千个变量的大规模问题上，相比最佳基准方法，实现了在线推理时间2倍的加速。

ABSTRACT

This work presents an explicit-implicit procedure to compute a model predictive control (MPC) law with guarantees on recursive feasibility and asymptotic stability. The approach combines an offline-trained fully-connected neural network with an online primal active set solver. The neural network provides a control input initialization while the primal active set method ensures recursive feasibility and asymptotic stability. The neural network is trained with a primal-dual loss function, aiming to generate control sequences that are primal feasible and meet a desired level of suboptimality. Since the neural network alone does not guarantee constraint satisfaction, its output is used to warm start the primal active set method online. We demonstrate that this approach scales to large problems with thousands of optimization variables, which are challenging for current approaches. Our method achieves a 2x reduction in online inference time compared to the best method in a benchmark suite of different solver and initialization strategies.

研究动机与目标

• 解决具有数千个优化变量的高维系统中显式MPC的可扩展性挑战。
• 通过在线二次规划（QP）求解器确保约束满足与稳定性，克服纯神经网络近似在MPC中的局限性。
• 开发一种高效的高维凸集（由约束定义）中神经网络训练数据的生成方法。
• 通过热启动与早期终止，实现在在线推理中具有可行性与稳定性理论保证的快速计算。
• 证明基于神经网络的MPC可扩展至大规模问题，同时保持性能与安全保证。

提出的方法

• 基于拉格朗日函数的原始-对偶损失函数训练全连接ReLU神经网络，以近似最优MPC控制律。
• 将神经网络的输出用作在线原始活动集方法的热启动，以加速收敛。
• 应用几何随机游走算法，高效生成大规模、高维的可行状态与最优解训练数据集。
• 在原始活动集求解器中引入基于对偶间隙阈值的早期终止机制，以减少在线计算时间，同时保持次优性边界。
• 从神经网络预测中推导出原始可行性与次优性证书，以保证递归可行性与渐近稳定性。
• 使用SQOPT求解器并结合周期性次优性检查与自适应容差降低策略，以平衡精度与速度。

实验结果

研究问题

• RQ1 能否将学习得到的神经网络控制策略与在线QP求解器结合，以确保大规模系统中MPC的递归可行性与渐近稳定性？
• RQ2 当标准采样方法因约束复杂性而失效时，如何高效生成MPC近似所需的高维训练数据？
• RQ3 与传统初始化方法相比，使用神经网络作为热启动在大规模MPC中能多大程度提升在线推理速度？
• RQ4 当与神经网络热启动结合时，活动集求解器的早期终止是否能带来显著加速？其对次优性的影响如何？
• RQ5 所提方法能否在保持理论保证与实际性能的前提下，扩展至具有数千个优化变量的问题？

主要发现

• 所提方法在标准MPC基准套件中，相比最佳基准方法，实现了在线推理时间2倍的减少。
• 与最优解计算相比，神经网络热启动结合早期终止可实现12.9倍的加速，而传统热启动方法仅实现2.2倍加速。
• 通过从神经网络输出推导出的原始可行性与次优性证书，该方法保持了递归可行性与渐近稳定性。
• 即使次优性间隙达到8.8%，基于神经网络的方法仍比热启动基线实现2倍的加速，表明高次优性在快速推理中可接受。
• 几何随机游走算法可高效生成大规模、高维的训练数据集，克服了网格化与拒绝采样方法的局限性。
• 当对偶间隙阈值η < 0.1时，基于神经网络的方法仅比热启动方法慢1.1倍，表明高精度解的性能损失极小。