[論文レビュー] Safe Control Under Input Limits with Neural Control Barrier Functions

Simin Liu, Changliu Liu+1 more|arXiv (Cornell University)|Nov 20, 2022

Fault Detection and Control Systems被引用数 4

ひとこと要約

本論文では、入力飽和下での高次元非線形システムにおける安全性を保証するため、ニューラル制御バリア関数（CBF）を用いた学習ベースの手法を提案する。学習者・評価者フレームワークを活用し、ニューラルネットワーク最適化によって反復的に入力飽和を解消する。この手法により、形式的到達可能性手法に依存せず、10次元のマルチコpter・ペンダム系において99.4%〜100%のほぼ完璧な安全性（安全なシナリオ）を達成した。

ABSTRACT

We propose new methods to synthesize control barrier function (CBF)-based safe controllers that avoid input saturation, which can cause safety violations. In particular, our method is created for high-dimensional, general nonlinear systems, for which such tools are scarce. We leverage techniques from machine learning, like neural networks and deep learning, to simplify this challenging problem in nonlinear control design. The method consists of a learner-critic architecture, in which the critic gives counterexamples of input saturation and the learner optimizes a neural CBF to eliminate those counterexamples. We provide empirical results on a 10D state, 4D input quadcopter-pendulum system. Our learned CBF avoids input saturation and maintains safety over nearly 100% of trials.

研究の動機と目的

• 高次元非線形システムにおける非飽和制御バリア関数（CBF）を合成するためのスケーラブルで汎用的な手法の不足に対処すること。
• 従来のCBFに基づく制御器において、入力飽和が安全性保証を無効にするという深刻な制限を克服すること。
• 人為的介入を低減し、複雑なシステムにスケーリング可能な、自動化された機械学習駆動のCBF合成フレームワークを開発すること。
• モデル不確実性と確率的ダイナミクスに対して、耐性評価を通じて安全性を確保すること。
• 挑戦的な10次元・4入力非線形システム（マルチコプター・ペンダム）において、この手法の有効性を実証すること。

提案手法

• CBF合成をニューラルネットワークの学習問題として定式化し、入力制限制約を満たすようにニューラルCBFを最適化する。
• 学習者・評価者アーキテクチャを用いる：評価者が入力飽和の反例を特定し、学習者がそれらを解消するようにニューラルCBFを更新する。
• 訓練損失は、有界な制御集合内におけるすべての入力に対してCBFの微分条件が満たされることを強制し、安全領域の不変性を保証する。
• 状態入力（例：角速度を線形速度に変換）に対する変数変換を適用することで、訓練の安定性と収束性を向上させる。
• 形式的到達可能性手法（例：HJ到達可能性）を避けることで、高次元システムへのスケーラビリティを実現し、理論的保証を妥協する。
• 安全領域の体積推定のため100万個の状態サンプルを用い、モデル不一致および確率的ノイズ下でのテストを実施する。

実験結果

リサーチクエスチョン

• RQ1 データ駆動型でニューラルネットワークベースのアプローチは、高次元非線形システムにおける非飽和CBFを効果的に合成できるか？
• RQ2 学習者・評価者フレームワークは、複雑なダイナミクスにおいて入力飽和を低減しながらも安全性を維持できるか？
• RQ3 モデル不確実性および確率的摂動下での学習済みCBFの実証的安全性はいかがなっているか？
• RQ4 学習済み安全領域の体積は、単純なシステムにおける理論的最大安全領域と比較してどの程度か？
• RQ5 従来の到達可能性に基づくCBF合成の制限を超えて、この手法はスケーリング可能か？

主な発見

• 提案手法は、10次元状態・4次元入力のマルチコプター・ペンダム系において、100万回のシミュレーションでほぼ100%の安全性（1%ノイズ分散下で99.42%）を達成した。
• モデル不一致下でも安全性を維持し、慣性が低く見積もられた場合に99.66%、5倍に過大評価された場合に89.18%の安全性を示した。
• 2次元の倒立振子ベンチマークにおいて、理論的最大安全領域の93.47%に相当する安全領域体積を生成し、最適安全領域に比べて優れた性能を示した。
• ニューラルCBFフレームワークは、従来の手法が失敗する高次元非線形ダイナミクスにおいても、すべての試行で入力飽和を回避した。
• 確率的摂動に対してロバストであり、ノイズ分散が1から10に増加するに従い、安全性が徐々に低下した。
• 初期状態変数変換を除き、以降の段階で人為的介入が一切不要であったため、自動化の可能性が顕著に示された。