[論文レビュー] Guaranteeing Safety of Learned Perception Modules via Measurement-Robust Control Barrier Functions

Sarah Dean, Andrew J. Taylor+3 more|arXiv (Cornell University)|Oct 29, 2020

Control Systems and Identification被引用数 24

ひとこと要約

本稿では、測定モデルの不確実性がある状況下でも安全を保証する新しい枠組みである測定に強い制御バリア関数（MR-CBFs）を導入する。凸最適化に基づく制御器に最悪の推定誤差の上限を組み込むことで、カメラベースの状態推定器などのセンシングシステムが誤差を生じる状況でも、安全保証を維持する。シミュレーションにより、学習された認識モデルを用いたセグウェイ系の実用的妥当性が検証された。

ABSTRACT

Modern nonlinear control theory seeks to develop feedback controllers that endow systems with properties such as safety and stability. The guarantees ensured by these controllers often rely on accurate estimates of the system state for determining control actions. In practice, measurement model uncertainty can lead to error in state estimates that degrades these guarantees. In this paper, we seek to unify techniques from control theory and machine learning to synthesize controllers that achieve safety in the presence of measurement model uncertainty. We define the notion of a Measurement-Robust Control Barrier Function (MR-CBF) as a tool for determining safe control inputs when facing measurement model uncertainty. Furthermore, MR-CBFs are used to inform sampling methodologies for learning-based perception systems and quantify tolerable error in the resulting learned models. We demonstrate the efficacy of MR-CBFs in achieving safety with measurement model uncertainty on a simulated Segway system.

研究の動機と目的

• 状態推定が測定モデルの不確実性によって汚染される状況下でも、制御システムにおける安全性を保証するという重要な課題に取り組むこと。
• 推定誤差に対するロバスト性を制御バリア関数（CBFs）に統合する形式的な枠組みを構築すること。
• 得られる誤差が安全性を保つために許容可能な範囲内に収まるように、認識モデルのデータ収集と学習を誘導すること。
• 理論的な安全性保証を損なわずに、安全を求める制御応用にデータ駆動型認識システムを活用できること。
• 視覚ベースの状態推定を伴うセグウェイ系の現実的なシミュレーションにおいて、MR-CBFsの実用的妥当性を示すこと。

提案手法

• 測定モデルの不確実性による状態推定の有界な誤差を考慮する、標準的なCBFsの一般化として測定に強い制御バリア関数（MR-CBF）を定義する。
• 推定誤差を伴う安全条件を2次錐制約として定式化し、凸性を保ちながらリアルタイムのオンライン最適化を可能にする。
• MR-CBF条件を二次計画法（QP）に基づく制御器に統合し、安全な制御入力を効率的にオンラインで計算可能にする。
• 特に径間基底関数を用いたカーネルリッジ回帰を用いて、カメラ画像からシステム状態を推定するデータ駆動型学習アプローチを採用し、ノイズを含む慣性測定値からラベル付きデータを生成する。
• MR-CBFフレームワークを用いて、学習された認識モデルにおける許容可能な最大誤差を定量化し、その結果として得られる状態推定誤差が安全性を保つために必要な範囲内に収まることを保証する。
• MR-CBFに基づくサンプリング戦略を設計し、信頼性の高いモデル一般化を実現するための十分なカバー範囲を確保するデータ収集を支援する。

実験結果

リサーチクエスチョン

• RQ1 状態推定が測定モデルの不確実性によって汚染される状況下で、制御バリア関数をどのように拡張すれば安全性を保証できるか。
• RQ2 CBFに基づく制御器において、安全性保証が依然として可能となるように、学習された認識モデルの許容可能な最大誤差は何か。
• RQ3 認識モデルのためのデータ収集をどのように誘導すれば、推定誤差が安全性に必要な範囲内に保たれるか。
• RQ4 MR-CBFsは、計算効率を損なわずにリアルタイムの最適化ベース制御器に効果的に統合可能か。
• RQ5 視覚ベースの状態推定を伴う非線形的かつ不安定なシステム（例：セグウェイ）に適用した場合、MR-CBFsは実際の場面でどの程度の性能を示すか。

主な発見

• 定常的な0.2ラジアンのピッチ角測定オフセットが存在する状況でも、MR-OPフィルタはシステムの安全性を維持したのに対し、標準的なCBF-QPフィルタは安全でない状態に至った。
• データ駆動型のシナリオにおいて、学習された認識モデルの最大推定誤差が0.201ラジアンであっても、MR-OPフィルタは安全領域の不変性を保証したが、標準的なCBF-QPフィルタは不安全な状態推定により失敗した。
• カーネルリッジ回帰モデルの実測誤差（最大0.183ラジアン）は、妥当性の理論的上限値0.2未満に収まっており、誤差定量化フレームワークの妥当性が裏付けられた。
• 標準的なCBF-QPフィルタではブール型安全条件 $ h_b = \min\{h_{e1}, h_{e2}\} $ がゼロ未満に低下し、安全でない状態を示したが、MR-OPフィルタでは $ h_b > 0 $ を維持し、安全性が確認された。
• MR-CBFフレームワークにより、ガウスノイズ（σ = 0.1）を含むノイズのある訓練データを用いた学習認識モデルを用いても安全性が保証された。これは、現実のセンサの不完全性に対してもロバストであることを示している。
• 理論的分析とシミュレーション結果から、MR-CBFsは凸性を保ち、オンライン制御ループへの効率的実装が可能であることが確認され、リアルタイム応用に適していることが示された。