[論文レビュー] Large Scale Model Predictive Control with Neural Networks and Primal Active Sets

Steven W. Chen, Tianyu Wang+3 more|arXiv (Cornell University)|Oct 23, 2019

Advanced Control Systems Optimization被引用数 9

ひとこと要約

本稿では、完全結合ReLUニューラルネットワークを用いてオンラインのプライマルアクティブセットソルバのためのウォームスタートを提供することで、再帰的妥当性と漸近的安定性を保証するハイブリッドな明示的・暗黙的モデル予測制御（MPC）フレームワークを提案する。この手法は、数千の変数を含む大規模問題において、最良のベンチマーク手法と比較してオンライン推論時間を2倍速くした。

ABSTRACT

This work presents an explicit-implicit procedure to compute a model predictive control (MPC) law with guarantees on recursive feasibility and asymptotic stability. The approach combines an offline-trained fully-connected neural network with an online primal active set solver. The neural network provides a control input initialization while the primal active set method ensures recursive feasibility and asymptotic stability. The neural network is trained with a primal-dual loss function, aiming to generate control sequences that are primal feasible and meet a desired level of suboptimality. Since the neural network alone does not guarantee constraint satisfaction, its output is used to warm start the primal active set method online. We demonstrate that this approach scales to large problems with thousands of optimization variables, which are challenging for current approaches. Our method achieves a 2x reduction in online inference time compared to the best method in a benchmark suite of different solver and initialization strategies.

研究の動機と目的

• 数千の最適化変数を含む高次元システムにおける明示的MPCのスケーラビリティ課題に対処する。
• 制約の満たされない状態や安定性の欠如を回避するため、純粋なニューラルネットワーク近似の限界を克服し、オンラインQPソルバを用いて制約の満たされるとともに安定性を保証する。
• 制約によって定義される高次元凸集合における、ニューラルネットワークの訓練のための効率的なデータ生成手法を開発する。
• ウォームスタートと早期終了を用いて、オンライン推論を高速化するとともに、妥当性と安定性に関する理論的保証を提供する。
• ニューラルネットワークベースのMPCが、性能と安全性の保証を維持したまま、大規模な問題にスケーリング可能であることを実証する。

提案手法

• ラグランジュアンに基づくプリマル・デュアル損失関数を用いて、完全結合ReLUニューラルネットワークを訓練し、最適なMPC制御則を近似する。
• ニューラルネットワークの出力を、収束を加速するためのオンラインプライマルアクティブセット法のウォームスタートとして使用する。
• 幾何的ランダムウォークアルゴリズムを適用して、制約を満たす状態と最適解を含む、大規模で高次元のトレーニングデータセットを効率的に生成する。
• 双対ギャップの閾値を用いてプライマルアクティブセットソルバに早期終了を統合し、オンライン計算時間を短縮するとともに、サブ最適性の境界を維持する。
• ニューラルネットワークの予測から、プライマル妥当性とサブ最適性の証明を導出し、再帰的妥当性と漸近的安定性を保証する。
• 精度と速度のバランスを取るために、定期的なサブ最適性チェックと適応的許容誤差の低減を伴うSQOPTソルバを用いる。

実験結果

リサーチクエスチョン

• RQ1 学習されたニューラルネットワーク制御方策とオンラインQPソルバを組み合わせることで、大規模システムにおけるMPCにおいて再帰的妥当性と漸近的安定性を保証できるか？
• RQ2 標準的なサンプリング手法が制約の複雑さのため失敗する場合、MPC近似のための高次元トレーニングデータを効率的に生成する方法は何か？
• RQ3 大規模MPCにおいて、ニューラルネットワークをウォームスタートとして使用することで、従来の初期化手法と比較してオンライン推論速度がどの程度向上するか？
• RQ4 ニューラルネットワークのウォームスタートと組み合わせた場合、アクティブセットソルバの早期終了が、どの程度の高速化をもたらし、サブ最適性にどのような影響を与えるか？
• RQ5 提案手法は、数千の最適化変数を含む問題にスケーリング可能であり、理論的保証と実用的性能を維持できるか？

主な発見

• 提案手法は、標準MPCベンチマークスイートにおいて、最良のベンチマーク手法と比較して、オンライン推論時間を2倍速くした。
• ニューラルネットワークのウォームスタートと早期終了を組み合わせた場合、最適解の計算と比較して12.9倍の高速化が達成されたが、ホットスタート法ではわずか2.2倍にとどまった。
• ニューラルネットワークの出力から導出されるプライマル妥当性とサブ最適性の証明により、再帰的妥当性と漸近的安定性が維持された。
• サブ最適性ギャップが8.8%でさえも、ニューラルネットワークベースの手法はホットスタートベースラインと比較して2倍の高速化を達成した。これは、高速推論において高いサブ最適性が許容可能であることを示している。
• 幾何的ランダムウォークアルゴリズムにより、グリッド化やリジェクションサンプリングの限界を克服し、大規模で高次元のトレーニングデータセットを効率的に生成できるようになった。
• 双対ギャップ閾値η < 0.1で終了した場合、ニューラルネットワークベースの手法はホットスタート法と比較してわずか1.1倍の遅延に抑えられ、高精度解においては最小限の性能損失にとどまった。